Я шукаю..

Чотири способи як ChatGPT змінює кібербезпеку Інновації

Чотири способи як ChatGPT змінює кібербезпеку

"без субтитрів"

Штучний інтелект (ШІ) вже давно є частиною індустрії кібербезпеки. Однак найновіші версії штучного інтелекту, такі як ChatGPT, швидко відкривають нові шляхи і вже справляють глибокий вплив на майбутнє.

Ось чотири способи, як зростання ChatGPT вже змінило гру.

Пошук, керований ШІ

Десятиліттями пошукові системи були ключовою особливістю Інтернету та основною областю знань як для операторів кібербезпеки, так і для зловмисників. Але якими б вони не були всюдисущими, пошукові системи все ще залишаються лише покажчиком місць, куди можна звернутися, щоб знайти інформацію — дуже асинхронна взаємодія.

Штучний інтелект, як-от ChatGPT, принципово змінює гру, оскільки він використовує обробку природної мови (NLP) для розуміння мови та надання прямих відповідей на запитання користувачів. Надайте фрагмент коду, і він дасть вам покрокову інструкцію для 12-річної дитини чи доктора філософії. кандидат.

Замість того, щоб просто переглядати відео чи читати рекомендовану статтю, ви можете взаємодіяти з уроком, ставити уточнюючі запитання або копати глибше в певній темі. Як зацікавлений учасник ви маєте більш прямий вплив на те, куди піде розмова. Ось чому багато перших користувачів, як-от мій друг і генеральний директор стартапу з безпеки Снехал Антані, вже відмовилися від старої школи пошуку Google на користь ChatGPT.

Дослідження за допомогою ШІ

Дослідники безпеки вже деякий час бавляться з можливостями ChatGPT. Загалом їхні думки були неоднозначними; Насправді, здається, багато хто водночас відчуває загрозу і не справляє враження на цей інструмент — і на ШІ загалом.

Частково ця відмова, ймовірно, пов’язана з їхніми методами дослідження. Здається, багато хто задає одне основне запитання і не надає більш конкретних деталей чи подальших вказівок. Це приховує справжню силу ChatGPT, синхронну взаємодію, тобто здатність змінювати розмову або результат на основі нових стимулів.

При правильному використанні ChatGPT вже продемонстрував здатність швидко розуміти та знаходити заплутаний код зловмисного програмного забезпечення. Щойно ми вдосконалимо наші методи залучення, ці інструменти, безсумнівно, допоможуть покращити рішення на ринку надзвичайно швидкими темпами.

Операції, доповнені AI

Завдяки NLP ChatGPT не тільки розуміє команди та читає код, але також може надати реальну інформацію та поради щодо виправлення. При правильному застосуванні ця здатність може значно підвищити ефективність і витонченість людини-оператора за кермом.

У галузі, яка продовжує страждати від проблем із кадрами та талантами, ШІ та машинне навчання вже використовуються для підвищення ефективності, підвищення швидкості та забезпечення оперативної точності.

По мірі того, як вони продовжують розвиватися, ці інструменти можуть навіть допомогти людям-операторам краще справлятися з «перемиканням контексту», тобто природною тенденцією мозку втрачати ефективність, коли він змушений швидко виконувати багато завдань.

Атаки за допомогою ШІ

Хоча дослідники безпеки та оператори використовують штучний інтелект для більш ефективного виявлення загроз і реагування на інциденти, хакери, ймовірно, роблять те саме. Насправді, зловмисники, ймовірно, отримали найбільше з усіх на початку існування таких потужних програм штучного інтелекту, як ChatGPT.

Ми знаємо, що зловмисники вже використовують ChatGPT для розробки зловмисного програмного забезпечення, зокрема поліморфного зловмисного програмного забезпечення, яке регулярно змінюється, щоб уникнути виявлення. Наразі якість написання коду ChatGPT посередня, але ці програми швидко розвиваються. Майбутні форми спеціалізованого «штучного інтелекту для кодування» можуть швидко прискорити розвиток шкідливого програмного забезпечення та підвищити його продуктивність.

Багато хакерів вже спеціалізуються на конкретних типах атак, таких як соціальна інженерія або фішингові кампанії. З часом штучний інтелект допоможе їм автоматизувати значні частини робочого процесу та використовувати вразливості протягом кількох годин після їх виявлення замість кількох днів.

Як і всі великі кроки вперед, перші дні ChatGPT були наповнені користувачами, які винаходили нові способи використання технології на користь і на зло. Часто ці сили врівноважують одна одну.

Тим не менш, складність і потужність інструментів на основі штучного інтелекту буде тільки зростати. Досі залишаються питання без відповіді щодо найкращих способів навчити штучний інтелект працювати з неточною інформацією або пом’якшити упередженість у тому, як він обробляє необроблені дані. Ці та інші занепокоєння спонукали Національний інститут стандартів і технологій (NIST) розпочати розробку системи управління ризиками штучного інтелекту, щоб забезпечити вказівки та процеси для мінімізації ризиків роботи з штучним інтелектом.

У дусі заголовка я вирішив дати останнє слово в цій темі самому ChatGPT. На моє запитання: «Які найцікавіші речі зробили люди з ChatGPT у сфері кібербезпеки», він відповів власним списком.

Є кілька способів використання GPT у сфері кібербезпеки. Деякі приклади:

Реалістичні фішингові електронні листи: GPT можна навчити на наборі даних справжніх фішингових електронних листів, а потім використовувати для створення нових, переконливих фішингових електронних листів. Це може бути корисним для перевірки ефективності засобів захисту від фішингу та навчання співробітників розпізнаванню спроб фішингу.

Корисні навантаження для тестування на проникнення: GPT можна навчити на наборі даних корисних навантажень, які використовуються в тестуванні на проникнення, а потім використовувати для створення нових корисних навантажень. Це може бути корисним для перевірки безпеки систем і виявлення вразливостей.

Документація щодо стандартів відповідності та безпеки: GPT можна навчити на наборі даних документації щодо стандартів відповідності та безпеки, таких як SOC 2 і PCI-DSS, а потім використовувати для створення нової документації. Це може бути корисним для забезпечення точності та актуальності документації.

Звіти для реагування на інциденти: GPT можна навчити на наборі даних звітів про реагування на інциденти, а потім використовувати для створення нових звітів про реагування на інциденти. Це може бути корисним для швидкого й точного документування подробиць інциденту та заходів, вжитих для його стримування.

Зведення попереджень безпеки природною мовою: GPT можна навчити на наборі даних попереджень безпеки, а потім використовувати для створення зведення попереджень природною мовою, що полегшує аналітикам безпеки розуміння та сортування попереджень.

Це лише кілька прикладів того, як GPT використовується в кібербезпеці, але можливості безмежні.