Является ли ChatGPT серебряной пулей для киберпреступников?
Старший вице-президент Proofpoint, отвечающий за глобальную стратегию кибербезопасности.
К этому моменту вы уже слышали о ChatGPT или, что более вероятно, слышали, что он заменит вашу работу, будь вы программистом, журналистом, музыкантом или кем-то еще.
Чат-бот OpenAI был доступен для всех всего несколько месяцев, но уже собрал миллионы пользователей, впечатляя своей способностью писать все, от кода до эссе и текстов песен.
Возможно, вы также слышали, что ChatGPT вот-вот подожжет и без того бурлящий ландшафт киберугроз, помогая мошенникам писать привлекательные, убедительные и грамматически правильные фишинговые электронные письма или совершенный вредоносный код за считанные секунды.
Хотя ChatGPT, безусловно, впечатляет, стоит ли нам беспокоиться о том, что он повышает ставку на уже угрожающие угрозы? Короче говоря, ответ отрицательный, но в этом нет ничего особенного.
ИИ ChatGPT мало что добавляет — пока
ChatGPT вряд ли пополнит арсенал большинства киберпреступников — не потому, что он бесполезен, а потому, что в большинстве случаев добавляет очень мало.
Во-первых, многие электронные письма социальной инженерии не предназначены для того, чтобы быть идеальными (грамматически или иначе). Вместо этого они часто написаны плохо намеренно, чтобы найти людей, которые с большей вероятностью будут вовлечены. Более того, заголовки, отправители, вложения и URL-адреса являются одними из распространенных индикаторов угроз, анализируемых и помечаемых надежными технологиями обнаружения, и хорошо написанное электронное письмо мало что может изменить.
Даже в таких случаях, как компрометация деловой электронной почты (BEC), где важнее тон и точность, электронная почта является лишь частью головоломки. Киберпреступникам также необходим доступ к критически важной информации, такой как плательщики, получатели платежей и другие сведения о транзакциях.
Эта информация, скорее всего, будет получена из скомпрометированного почтового ящика, а это означает, что злоумышленники могут просто скопировать стиль электронного письма, отправленного из учетной записи жертвы, а не использовать искусственный интеллект для создания письма с нуля.
Даже самые инновационные формы социальной инженерии не позволяют злоупотреблять ChatGPT. В ходе исследования мы обнаружили «заметное увеличение числа сложных фишинговых кампаний с несколькими касаниями, включающих более длительные разговоры между несколькими людьми». и не нуждались в использовании ИИ для достижения своих целей социальной инженерии.
В то время как киберпреступники или более продвинутые злоумышленники могут использовать ChatGPT в качестве чат-бота для ведения целых разговоров с несколькими жертвами в массовом порядке, они обычно не нуждаются или не хотят этого. В большинстве случаев APT-кампании отражают конкретные задачи и хорошо спланированы, тщательно исследованы, имеют высокую направленность и не подходят для масштабного запуска. Киберпреступники наводнены миллионами скомпрометированных учетных данных и конечных точек, и они даже создали свои собственные системы в стиле CRM, чтобы отдать приоритет ручному повышению привилегий и горизонтальному перемещению, необходимому для проведения типичной атаки с использованием программ-вымогателей/вымогателей данных.
Еще одно добавленное дополнение
Возможно, на данном этапе это не оказывает революционного влияния, но это не значит, что злоумышленники уже не используют ChatGPT. На данный момент, однако, это просто еще один простой в использовании инструментарий в их распоряжении.
В мире достаточно готовых вредоносных программ, и код, написанный ChatGPT для той же цели, ничем не лучше текущего предложения. Хотя вы можете дать указание ChatGPT писать код более явно, это не делает получившееся вредоносное ПО лучше в том, что ему нужно делать, то есть избегать EDR и заражать машины.
Это также не экономит время или усилия в других местах. Чтобы запустить атаку вредоносного ПО, злоумышленникам по-прежнему необходимо выполнять множество второстепенных задач — ротацию своей инфраструктуры, регистрацию доменов и повторную калибровку после того, как исследователи угроз обнаружат и осудят атаки.
Злоумышленникам необходимо продавать свой код, а также распространять его, и ChatGPT никак не помогает автоматизировать наиболее важные компоненты этого процесса.
По этим и другим причинам маловероятно, что это повлияет на ландшафт угроз, пока не превысит возможности доступных в настоящее время инструментов. Многие из этих инструментов оттачивались десятилетиями, чтобы делать гораздо больше, чем, по общему признанию, очень продвинутый чат-бот.
Конечно, это вполне может измениться. ChatGPT уже быстро развивается и привлекает внимание национальных государств и специалистов по кибербезопасности, так что вряд ли это конец истории.
Тем не менее, независимо от того, используют ли киберпреступники такие инструменты сейчас или в будущем для усиления атак социальной инженерии, фишинга или вредоносного ПО, стратегии, необходимые для обнаружения и пресечения этих тактик, остаются в основном одинаковыми.
Как держать угрозы в страхе — искусственный интеллект или что-то другое
Киберпреступники, использующие искусственный интеллект или нет, ежедневно взламывают наши периметры и компрометируют машины, сети и почтовые ящики. Точно так же, как ChatGPT мало меняет в отношении атак, с которыми мы сталкиваемся, он также мало меняет и в том, как мы защищаемся от них.
Единственный ответ — это надежная и многоуровневая стратегия, включающая в себя инструменты и технологии, а также фокус на человеческом факторе.
Осведомленность является ключевым фактором. Поскольку наши люди часто являются последней линией киберзащиты, они должны быть оснащены для выполнения этой задачи. Это означает, что все в вашей организации должны понимать потенциальную информацию о фишинговых электронных письмах и важность тщательного изучения форматирования, доменов, адресов, URL-адресов и вложений.
Чем больше они понимают, тем меньше вероятность того, что они попадут под такие атаки (кто бы ни писал), и тем безопаснее будет ваша организация в результате.
