Google AI и Microsoft ChatGPT не представляют большой угрозы безопасности, предупреждает легенда шахмат Гарри Каспаров

На прошлой неделе, во время SXSW, на фоне шквала релизов генеративного ИИ от Google и Microsoft, Гарри Каспаров, гроссмейстер по шахматам, посол Avast и председатель Фонда прав человека, сказал мне, что его меньше беспокоит взлом бытовой техники с помощью ChatGPT, чем пользователей обманывают плохие актеры.

«У людей по-прежнему есть монополия на зло», — предупредил он, твердо придерживаясь мыслей, которыми поделился со мной в 2018 году. Широко признанный одним из величайших шахматистов всех времен, Каспаров обрел мифический статус чемпиона мира в 1990-х годах, когда победил а затем потерпел поражение от суперкомпьютера IBM Deep Blue. Этот момент стал символом пробуждения того, что однажды машины могут победить человечество.

«ИИ побеждает не потому, что он умнее людей, а потому, что он просто делает меньше ошибок», — пояснил он. «Я никогда не понимал этого страха перед ИИ — это полезный инструмент, который делает то, что мы ему говорим. Я большой сторонник сотрудничества человека и машины».

По его словам, то, что не дает ему спать по ночам, гораздо более зловещее. Работая в фирме по кибербезопасности Avast, которая была приобретена в 2022 году NortonLifeLock Inc. и теперь является частью семейства продуктов Gen Digital, компания обнаружила, что, хотя 30% кибератак на ее платформу нацелены на уязвимые сети со слабой защитой, около 70% — это фишинг и другие виды мошенничества, когда пользователи добровольно передают свою информацию злоумышленникам.

«Эти когнитивные угрозы меняют правила игры, и брандмауэр не может противостоять им, — сказал мне главный технический директор Михал Пехоучек. Атаки социальной инженерии могут быть особенно эффективны, когда кто-то выдает себя за близкого человека из вашего ближайшего окружения, например, за вашего начальника, и дает вам указание что-то сделать, например оплатить счет. Благодаря генеративным инструментам искусственного интеллекта мошенникам становится проще писать более убедительный текст, потому что обучение с подкреплением помогает алгоритму точно настроить обмен сообщениями для оптимизации рейтинга кликов. Со всеми подробностями нашей повседневной жизни, которые делятся в социальных сетях, это также позволяет более гнусную персонализацию.

«Все сводится к тому, чтобы потребитель принял правильное решение», — сказал Пехоучек. Простые вещи, которые люди могут сделать, чтобы защитить себя, включают проверку электронной почты отправителя, чтобы убедиться, что адрес соответствует личности, не нажимать на ссылки или загружать PDF-файлы, никогда не использовать повторно пароли и меньше делиться в социальных сетях, посоветовал он.

«Ленивый преступник преследует ленивого покупателя», — сказал Каспаров. «Немного укрепите свою защиту, и они пойдут дальше».

Что касается генеративного ИИ, взламывающего системы, Пехоучек сказал, что ему известно об исследовании, проведенном разведывательным агентством по киберугрозам Check Point Research, которое показало, что ChatGPT обманом заставляют создавать вредоносные программы, идущие вразрез с его собственными правилами. Тем не менее, по его словам, Gen использует генеративный ИИ в своих собственных больших языковых моделях, чтобы гарантировать, что его защита достаточно сильна, чтобы ловить любые новые вирусы, которые придумывают преступники.

Пехоучек говорит, что видит ситуацию, когда люди начинают сомневаться в самой реальности всего, особенно с появлением дипфейков, преобразующих текст в видео. По его словам, одним из решений может стать платформа, на которой пользователи смогут проверять медиаданные с помощью зашифрованных метаданных, что может обеспечить цифровую безопасность и доверие.

Независимо от того, как будут развиваться инновации в космосе, Каспаров, баллотировавшийся в качестве кандидата от оппозиции на пост президента России Владимира Путина и уехавший в изгнание десять лет назад, сказал, что США нечего бояться в отношении глобальной кибервойны с контролируемыми государством противники. Он уверенно сказал: «Свободные люди на свободном рынке всегда будут иметь преимущество».