Підготуйтеся до фішингової атаки ШІ
Будучи головним виконавчим директором IRONSCALES, Еял Бенішті запровадив провідне рішення для захисту електронної пошти від фішингу, що самонавчається.
Ви, напевно, вже чули про ChatGPT від Open AI, безкоштовний чат-бот на основі штучного інтелекту, який створює добре написаний, переконливий вміст англійською та іншими мовами та навіть може писати та налагоджувати програмний код. Його називають переломним моментом штучного інтелекту, і його наслідки для всього, від студентських есе до маркетингового контенту та розробки програмного забезпечення, м’яко кажучи, вражають.
Є ще одна сфера, для якої ChatGPT і його конкуренти зі штучним інтелектом також мають приголомшливі наслідки: фішинг. Я говорю не лише про стрибок у розвитку фішингу за допомогою ШІ, а й про обсяги фішингу. Насправді, наслідки настільки руйнівні та потенційно непосильні для ІТ-організацій, що єдиний спосіб дати відсіч цій зброї штучного інтелекту – використовувати іншу зброю штучного інтелекту.
Зникли відверті орфографічні та граматичні помилки англійської мови, які досі сповіщали людей і інструменти про фішингові електронні листи. Як і есе для коледжу та маркетинговий контент, ChatGPT може генерувати красиво написані, добре структуровані електронні листи майже на будь-яку тему. Введіть: «Напишіть електронного листа від генерального директора компанії співробітникам із темою «Потрібні термінові дії», «Оголошено новий план опціонів на акції». Закличте співробітників натиснути на вкладення сьогодні», і за лічені секунди ChatGPT створить красиво написане, граматично бездоганне повідомлення електронної пошти. Іноземні хакери можуть навіть писати фішингові електронні листи іншою мовою та використовувати ChatGPT, щоб перекладати їх ідеальною англійською мовою, не кажучи вже про покращення.
Хакери можуть використовувати ChatGPT, щоб знову і знову вдосконалювати фішингові електронні листи, відтворюючи їх у різних і кращих перестановках і стилях. Вони можуть попросити ChatGPT запропонувати ідеї, щоб переконати одержувачів відкрити вкладення сьогодні. Вони можуть навчити інструменти штучного інтелекту на великих наборах даних попередніх фішингових електронних листів або електронних листів від законних відправників компанії, щоб створювати більш переконливі фішингові електронні листи та створювати нові типи атак, які оминають системи виявлення фішингу. Користувачі можуть використовувати сценарії, які шукають у LinkedIn та інших соціальних мережах імена та посади керівників і співробітників цільової компанії та передають інформацію в ChatGPT для створення персоналізованих фішингових електронних листів.
Будьте готові до потоку фішингових електронних листів тепер, коли хакерам не потрібно витрачати час на їх написання та вдосконалення. Очікуйте, що повінь переповнить користувачів, традиційні інструменти фільтрації електронної пошти та відділи безпеки та ІТ. Будьте готові до експоненціального збільшення кількості хакерів, оскільки нікому більше не потрібна хакерська техніка для фішингу, а також до використання автоматизованих інструментів у темній мережі, які дають змогу будь-кому створювати тисячі автоматизованих персоналізованих фішингових електронних листів для багатосторонніх фішингових атак.
Навіть найкраще навченим співробітникам буде все важче справлятися з величезними обсягами фішингових електронних листів високої якості. ІТ-відділи, швидше за все, будуть перевантажені кількістю фішингових електронних листів, про які повідомляють користувачі, і незареєстрованих електронних листів, які обходять традиційний захист.
Окрім тексту, ChatGPT може генерувати дуже корисний код для переконливих цільових веб-сторінок, рахунків-фактур за спроби зламати ділову електронну пошту (BEC) і все, що потрібно для створення хакерам. ШІ — це проблема, а ШІ — рішення
Як компанії можуть боротися з величезною кількістю фішингових атак за допомогою ШІ? Звичайно, не лише за допомогою застарілих інструментів і навчання користувачів. Відповідь на фішинг з підтримкою штучного інтелекту криється в зброї проти фішингу.
Інструменти на основі штучного інтелекту мають масштаб і кмітливість, щоб справлятися з майбутніми великими обсягами фішингу. Вони можуть використати своє розуміння вмісту електронної пошти, контексту, метаданих і надійної поведінки, щоб виявити аномалії, характерні для спроб фішингу в сотнях тисяч електронних листів.
Навчаючись на законний вміст і контекст електронної пошти, інструменти ШІ можуть миттєво визначити, чи мовний вміст і стиль електронної пошти нагадують еквівалентні попередні електронні листи від законних відправників. Вони можуть оцінити, чи електронний лист надійшов приблизно в той самий час і день місяця від того самого відправника, що й попередні подібні електронні листи, чи використовує він той самий шлях для проходження в Інтернеті та чи містить ті самі заголовки електронних листів, номери банківських рахунків та ідентифікатори клієнтів. . Нульова довіра необхідна в середовищі фішингу з такими великими обсягами.
Може виникнути спокуса відмовитися від навчання користувачів цій потужній новій загрозі, але зробити це було б великою помилкою. Як я зазначав у попередній статті, штучний інтелект може бути важливою зброєю в боротьбі з фішингом, але користувачі завжди будуть останньою лінією захисту, навіть за обсягів і складності фішингу, які ми можемо очікувати в наступні роки.
Як завжди, постійно навчайте користувачів найновішим стратегіям фішингу, включно з фішинговими електронними листами, створеними штучним інтелектом. Скористайтеся перевагами ChatGPT і подібних інструментів, щоб перевірити користувачів за допомогою їх ідеально створених електронних листів. Постійно повідомляйте про те, що всі ми живемо в новому світі, де кожен може створювати переконливі фішингові листи. Навчіть їх завжди запитувати себе таке: чи має цей електронний лист сенс порівняно з попередніми еквівалентними електронними листами? Це правильний відправник, правильний час доби, тиждень, місяць тощо? Навчіть їх за потреби перевіряти потенційні фішингові електронні листи через інші канали. Надайте їм можливість швидко та легко повідомляти про підозрілі електронні листи, а потім негайно додавайте ці знання до своїх засобів захисту від фішингу.
Це лише початок епохи хаків, створених ШІ. Очікуйте нових стрибків як у стратегіях злому на основі штучного інтелекту, так і в зброї для захисту від злому. Кожна організація має переконатися, що вона готова до цього нового світу ШІ. Ми знали, що це настане, але виявилося, що це сталося навіть раніше та швидше, ніж ми собі уявляли. У найближчі місяці очікуйте на інструменти ШІ від Baidu, Google, Deep Mind, Character AI та інших.
