Четыре ночи, час ChatGPT меняет кибербезопасность
Искусственный интеллект (ИИ) уже давно является частью индустрии кибербезопасности. Однако новейшие версии ИИ, такие как ChatGPT, быстро открыли новые горизонты и уже оказывают глубокое влияние на будущее.
Вот четыре способа, которыми появление ChatGPT уже изменило правила игры.
Поиск под управлением ИИ
На протяжении десятилетий поисковые системы были ключевой особенностью Интернета и основной областью знаний как операторов кибербезопасности, так и злоумышленников. Но какими бы вездесущими они ни были, поисковые системы по-прежнему являются просто указателем мест, где можно найти информацию — очень асинхронное взаимодействие.
ИИ, такой как ChatGPT, принципиально меняет правила игры в том, как он использует обработку естественного языка (NLP) для понимания языка и предоставления прямых ответов на вопросы пользователей. Предоставьте фрагмент кода, и он может дать вам пошаговое руководство, рассчитанное на 12-летнего или доктора философии. кандидат.
Вместо того, чтобы просто смотреть видео или читать рекомендуемую статью, вы можете взаимодействовать с уроком, задавать уточняющие вопросы или углубляться в конкретную тему. Как заинтересованный участник, вы имеете более непосредственное влияние на ход разговора. Вот почему многие ранние последователи, такие как мой друг и генеральный директор стартапа по безопасности Снехал Антани, уже отказались от поисков Google старой школы в пользу ChatGPT.
Исследования с помощью ИИ
Исследователи безопасности уже некоторое время экспериментируют с возможностями ChatGPT. В целом их мнения разошлись; на самом деле, многие, кажется, одновременно испытывают угрозу и не впечатлены этим инструментом — и ИИ в целом.
Отчасти это противодействие, вероятно, связано с их методами расследования. Многие, кажется, задают один основной вопрос и не предоставляют более конкретных деталей или дальнейших указаний. Это затемняет истинную силу ChatGPT, синхронного взаимодействия, т. е. возможности изменять разговор или результат на основе новых стимулов.
При правильном использовании ChatGPT уже продемонстрировал способность быстро понимать и находить запутанный вредоносный код. Как только мы усовершенствуем наши методы взаимодействия, эти инструменты, несомненно, помогут улучшить решения на рынке чрезвычайно быстрыми темпами.
AI-дополненные операции
С помощью NLP ChatGPT не только понимает команды и читает код, но также может предоставить актуальную информацию и рекомендации по исправлению. При правильном использовании эта возможность может значительно повысить эффективность и опыт человека-оператора за рулем.
В отрасли, которая по-прежнему испытывает проблемы с кадрами и кадрами, искусственный интеллект и машинное обучение уже используются для повышения эффективности, повышения скорости и обеспечения точности операций.
По мере того, как они продолжают развиваться, эти инструменты могут даже помочь людям-операторам лучше справляться с «переключением контекста», т. е. с естественной тенденцией мозга терять эффективность, когда он вынужден быстро выполнять многозадачность.
Атаки с использованием ИИ
В то время как исследователи и операторы безопасности используют ИИ для более эффективного обнаружения угроз и реагирования на инциденты, хакеры, вероятно, делают то же самое. На самом деле злоумышленники, вероятно, выиграли больше, чем кто-либо в первые дни программ искусственного интеллекта с NLP, таких как ChatGPT.
Нам известно, что злоумышленники уже используют ChatGPT для разработки вредоносных программ, в том числе полиморфных вредоносных программ, которые регулярно мутируют, чтобы избежать обнаружения. В настоящее время качество написания кода ChatGPT посредственное, но эти программы быстро развиваются. Будущие формы специализированного «кодирующего ИИ» могут быстро ускорить разработку вредоносных программ и повысить их производительность.
Многие хакеры уже специализируются на определенных типах атак, таких как социальная инженерия или фишинговые кампании. Со временем искусственный интеллект поможет им автоматизировать большую часть своего рабочего процесса и использовать уязвимости в течение нескольких часов после их обнаружения, а не нескольких дней.
Как и все крупные скачки вперед, первые дни ChatGPT были заполнены пользователями, выясняющими новые способы использования технологии во благо и во вред. Часто эти силы имеют тенденцию уравновешивать друг друга.
Тем не менее, инструменты на основе ИИ будут становиться все сложнее и мощнее. До сих пор остаются без ответа вопросы о том, как лучше всего научить ИИ работать с неточной информацией или минимизировать предвзятость при обработке необработанных данных. Эти и другие опасения побудили Национальный институт стандартов и технологий (NIST) приступить к разработке концепции управления рисками ИИ, чтобы предоставить рекомендации и процессы для минимизации рисков при работе с ИИ.
В духе заголовка я решил отдать последнее слово на эту тему самому ChatGPT. На мой вопрос «Что интересного люди сделали с ChatGPT в области кибербезопасности?», он ответил собственным списком.
Есть несколько разных способов использования GPT в сфере кибербезопасности. Вот некоторые примеры:
Реалистичные фишинговые электронные письма: GPT можно обучить на наборе данных реальных фишинговых электронных писем, а затем использовать для создания новых, убедительных фишинговых электронных писем. Это может быть полезно для проверки эффективности средств защиты от фишинга и обучения сотрудников распознаванию попыток фишинга.
Полезные нагрузки для тестирования на проникновение: GPT можно обучить на наборе данных полезных нагрузок, используемых при тестировании на проникновение, а затем использовать для создания новых полезных нагрузок. Это может быть полезно для тестирования безопасности систем и выявления уязвимостей.
Документация по стандартам соответствия и безопасности. GPT можно обучить набору данных документации по стандартам соответствия и безопасности, таким как SOC 2 и PCI-DSS, а затем использовать для создания новой документации. Это может быть полезно для обеспечения точности и актуальности документации.
Отчеты о реагировании на инциденты: GPT можно обучить на наборе данных отчетов о реагировании на инциденты, а затем использовать для создания новых отчетов о реагировании на инциденты. Это может быть полезно для быстрого и точного документирования подробностей инцидента и действий, предпринятых для его локализации.
Сводки предупреждений безопасности на естественном языке: GPT можно обучить на наборе данных предупреждений безопасности, а затем использовать для создания сводок предупреждений на естественном языке, что упрощает понимание и сортировку предупреждений аналитиками безопасности.
Это всего лишь несколько примеров использования GPT в кибербезопасности, но возможности безграничны.
