Я шукаю..

Чому «хороший ШІ», ймовірно, є протиотрутою нової ери кіберзлочинності зі штучним інтелектом. Інновації

Чому «хороший ШІ», ймовірно, є протиотрутою нової ери кіберзлочинності зі штучним інтелектом.

"без субтитрів"

Що стосується штучного інтелекту, ми живемо в затишші перед бурею, точкою перелому перед тим, як усе зміниться.

Згадайте останні два місяці в академічному середовищі. OpenAI's ChatGPT — найновіший, найдосконаліший чат-бот, доступний широкому загалу — загрожував революціонізувати плагіат завдяки своїй здатності генерувати вміст майже на будь-яку тему на основі простих підказок. Трохи більше ніж через місяць після його випуску опитування понад 1000 студентів показало, що 89% уже використовували його, щоб допомогти з домашніми завданнями. Хоча ці зареєстровані випадки були надмірними, те саме програмне забезпечення може легко допомогти учням написати шкільні роботи за лічені хвилини або скласти навіть суворі письмові іспити з різних галузей.

ШІ може принести суспільству неймовірну користь. У той же час це може сприяти злочинам, зловмисникам і відвертим злочинам. Подібно до того, як студенти використовуватимуть його для обману на уроці, політики можуть використовувати його для поширення пропаганди, а підприємства можуть використовувати його для видобутку наших даних.

І хакери так само, а може, й більше, ніж будь-яка інша демографічна група, ймовірно, використовуватимуть штучний інтелект для розробки більш небезпечних кібератак у масштабах, яких ніколи раніше не можна було собі уявити.

Як ШІ змінить хакерство

Певним чином майбутні кібератаки ШІ підтвердять наші найглибші занепокоєння.

Наприклад, подивіться, що сталося в п’ятницю вдень у березні 2019 року. Керуючому директору британської енергетичної компанії зателефонував його начальник. Директору було наказано терміново перерахувати понад 240 000 доларів постачальнику в Угорщині, щоб уникнути комісії за прострочення платежу. Це було дивне прохання, його задовольнили, але генеральний директор по телефону звучав абсолютно нормально, крім того, що був такий стривожений. І директор зробив так, як йому сказали.

Зустрічайте невідомого іммігранта-мільярдера, який ставить свій статок, щоб здолати Маска в космосі

Більше подібних історій. Менше подібних історій

Відкрийте для себе деякі з найкращих винних напрямків Чилі

Більше подібних історій. Менше подібних історій

Як TikTok і Білл Най перемагають у розважальних війнах

Більше подібних історій. Менше подібних історій

Гроші пішли прямо до хакерів, які клонували голос цього генерального директора за допомогою програмного забезпечення, яке легко отримати.

Історія була зловісною, але те, про що ми дійсно повинні хвилюватися, не так вже готове для Голлівуду. Найбільша небезпека для нашого сучасного Інтернету — і, можливо, суспільства в цілому — може походити від звичайних, майже банальних способів, якими злочинці можуть використовувати ШІ для масштабування своїх атак.

У грудні дослідники з Check Point Software спостерігали, як усі використовують ChatGPT для написання віршів і шкільних робіт, і запитали: чи може він написати фішинговий електронний лист? Або як щодо цілого ланцюжка атак?

Вони експериментували, спочатку попросивши ChatGPT написати приманку, заохочуючи жертв завантажити файл Excel. Після кількох ітерацій електронний лист досяг усіх трюків, які люблять хакери: фальшива легітимність, відчуття терміновості та ефективний заклик до дії.

Потім дослідники попросили ChatGPT написати макрос, який запускав би спеціальний код, щойно жертва відкривала файл Excel. Потім вони використали іншу програму OpenAI — Codex — для автоматичного створення робочої зворотної оболонки, за допомогою якої вони могли запускати команди, збирати дані та надсилати більше шкідливих програм на цільову машину. Вони також змусили Codex розробити сканер портів і інструмент для ідентифікації віртуальних машин.

Результатом стала відносно розмальовка за номерами, але непогана для роботи, яку варто провести після обіду. І теоретично будь-яка кількість програм, що не належать до OpenAI, могла б допомогти у його вдосконаленні.

Наприклад, є PassGAN, програма на основі нейронної мережі, яка тренується на основі попередніх витоків даних для ефективного підбіру паролів. У дослідженні 2019 року дослідники використовували його, щоб обійти навіть найсучасніші інструменти підбору паролів на основі машинного навчання.

Ще більш підступним, ніж PassGAN, є DeepLocker, інше зловмисне програмне забезпечення, засноване на глибокому навчанні, яке, за словами своїх прабатьків IBM, може "інфікувати мільйони систем, не будучи виявленим". Лише після визначення цільової мети за допомогою таких факторів, як геолокація, голос і розпізнавання обличчя — чи розкривається воно, вражаючи лазерною точністю.

Що може зробити індустрія технологій

Ми не зможемо запобігти кіберзлочинам, керованим штучним інтелектом, але ми можемо працювати, щоб запобігти найгіршому та зробити наш Інтернет ще безпечнішим, ніж він є сьогодні.

Не минуло й місяця після того, як ChatGPT було оприлюднено для громадськості, оскільки вчителі кричали через те, що він може сприяти списуванню, один учень взяв на себе завдання вирішити проблему. Едвард Тіан, 22-річний старшокласник Прінстонського університету, розробив додаток під назвою GPTZero, який може швидко й ефективно визначити, чи написав есе ChatGPT чи людина.

Простіше кажучи; ШІ може бути використаний як зброя як для хороших хлопців, так і для поганих.

Щоб завершити свій експеримент, дослідники Check Point використали Codex, щоб зібрати важливі дані з великих наборів даних на YARA та VirusTotal. Це був лише обмежений випадок використання. Інструменти штучного інтелекту давно займають центральне місце в кращому виявленні шкідливих електронних листів і виявленні аномальної поведінки набагато швидше, ніж люди, для всіх наших папок «Вхідні» та ІТ-мереж. І це не кажучи вже про роль штучного інтелекту в зборі й управлінні даними, автоматизації завдань і інформуванні про оцінку ризиків.

Як і Годзілла проти Кінг-Конга, ми можемо боротися з кіберзлочинністю з підтримкою штучного інтелекту лише за допомогою кібербезпеки, розширеної за допомогою ШІ. Це наступний рубіж. Це вже розгортається на наших очах.

Технологічна рада Forbes — це спільнота для ІТ-директорів, технічних директорів і технічних керівників світового рівня. Чи маю я право?