ШІ Google і Microsoft ChatGPT не є найбільшою загрозою безпеці, попереджає легенда шахів Гаррі Каспаров

Минулого тижня під час SXSW серед серії генеративних випусків штучного інтелекту від Google і Microsoft Гаррі Каспаров, який є шаховим гросмейстером, послом Avast і головою Фундації прав людини, сказав мені, що його не так турбує злом ChatGPT на побутову техніку, ніж він. користувачів обманюють зловмисники.

«Люди все ще мають монополію на зло», — попередив він, твердо дотримуючись своїх думок, якими поділився зі мною в 2018 році. Каспаров, якого вважають одним із найвидатніших шахістів усіх часів, отримав міфічний статус у 1990-х роках як чемпіон світу, коли він переміг, а потім був переможений суперкомп’ютером IBM Deep Blue. Цей момент став символом пробудження того, що колись машини можуть перемогти людство.

«Штучний інтелект перемагає не тому, що він розумніший за людей, а тому, що він просто робить менше помилок», — пояснив він. «Я ніколи не розумів цього страху перед ШІ — це корисний інструмент, який робить те, що ми йому наказуємо. Я великий прихильник співпраці людини і машини».

За його словами, те, що не дає йому спати вночі, набагато зловісніше. У своїй ролі в фірмі з кібербезпеки Avast, яку в 2022 році придбала NortonLifeLock Inc. і яка зараз є частиною сімейства продуктів Gen Digital, компанія виявила, що хоча 30% кібератак на її платформу спрямовані на вразливі мережі зі слабким захистом, близько 70% — це фішинг та інше шахрайство, під час якого користувачі охоче передають свою інформацію зловмисникам.

«Ці когнітивні загрози змінюють правила гри, і проти них не можна побудувати брандмауер», — сказав мені головний технічний директор Міхал Печучек. Атаки соціальної інженерії можуть бути особливо ефективними, коли хтось видає себе за близьку людину у вашому внутрішньому колі, як-от ваш бос, і наказує вам щось зробити, наприклад оплатити рахунок. З генеративними інструментами штучного інтелекту шахраям стає легше писати переконливіший текст, оскільки навчання з підкріпленням допомагає алгоритму точно налаштовувати повідомлення для оптимізації рейтингу кліків. Оскільки всі подробиці нашого повсякденного життя публікуються в соціальних мережах, це також дає змогу більш мерзенної персоналізації.

«Все залежить від споживача, який приймає правильне рішення», — сказав Печучек. Прості речі, які люди можуть зробити, щоб захистити себе, включають перевірку електронної пошти відправника, щоб переконатися, що адреса збігається з ідентифікацією, не натискання посилань або завантаження PDF-файлів, ніколи повторне використання паролів і менше ділення в соціальних мережах, порадив він.

«Ліначий злочинець переслідує ледачого клієнта», — сказав Каспаров. «Трохи посиліть свій захист, і вони підуть далі».

Стосовно генеративного штучного інтелекту, який зламує системи, Печучек сказав, що йому відомо про дослідження, проведене агенцією розвідки про кіберзагрози Check Point Research, яке показало, що ChatGPT обманом створюють шкідливі програми всупереч власним правилам. Однак, за його словами, Gen використовує генеративний штучний інтелект у своїх власних великих мовних моделях, щоб гарантувати, що його захист є достатньо сильним, щоб зловити будь-які нові віруси, які придумають злочинці.

Печучек каже, що він бачить ситуацію, коли люди починають сумніватися в самій реальності всього, особливо з появою дипфейків тексту у відео. Одним із рішень може бути платформа, на якій користувачі зможуть перевіряти медіафайли за допомогою зашифрованих метаданих, це може створити цифрову безпеку та довіру, сказав він.

Незалежно від того, як розгортаються інновації в космосі, Каспаров, який балотувався як опозиційний кандидат президенту Росії Володимиру Путіну і пішов у вигнання десять років тому, сказав, що США не варто боятися глобальної кібервійни з державним контролем. противники. Безумовно, він сказав: «Вільні люди на вільних ринках завжди матимуть перевагу».