«Хороший ИИ», вероятно, является противоядием от новой Почему киберпреступности ИИ
Когда дело доходит до ИИ, мы живем в период затишья перед бурей, в переломный момент, прежде чем все изменится.
Рассмотрим последние два месяца в академических кругах. ChatGPT от OpenAI — новейший, наиболее продвинутый чат-бот, который легко доступен для публики — угрожает совершить революцию в борьбе с плагиатом благодаря своей способности генерировать контент практически на любую тему на основе простых подсказок. Спустя чуть более месяца после его выпуска опрос более 1000 студентов показал, что 89% уже используют его, чтобы помочь с домашними заданиями. Хотя эти зарегистрированные случаи были честными, одно и то же программное обеспечение может легко помочь учащимся написать школьные работы за считанные минуты или сдать даже строгие письменные экзамены по разным предметам.
ИИ может принести невероятную пользу обществу. В то же время это может привести к правонарушениям, злонамеренным действиям и откровенным преступлениям. Точно так же, как студенты будут использовать его для обмана в классе, политики могут использовать его для распространения пропаганды, а компании могут использовать его для сбора наших данных.
А хакеры в той же или, может быть, большей степени, чем любая другая демографическая группа, скорее всего, будут использовать ИИ для разработки более опасных кибератак и в невообразимых ранее масштабах.
Как ИИ изменит хакерство
В некотором смысле будущие кибератаки ИИ подтвердят наши самые глубокие опасения.
Например, посмотрите, что произошло в пятницу днем в марте 2019 года. Управляющему директору британской энергетической компании позвонил его начальник. Директору было приказано срочно перевести более 240 000 долларов поставщику в Венгрии, чтобы избежать штрафов за просрочку платежа. Это была странная просьба, согласитесь, но голос генерального директора звучал совершенно нормально, кроме того, что он был так встревожен. Так директор и сделал, как ему сказали.
Познакомьтесь с неизвестной миллиардершей-иммигранткой, делающей ставку на то, чтобы сразиться с Маском в космосе
Больше таких историйМеньше таких историй
Откройте для себя некоторые из лучших винных направлений Чили
Больше таких историйМеньше таких историй
Как TikTok и Билл Най побеждают в образовательно-развлекательных войнах
Больше таких историйМеньше таких историй
Деньги пошли прямо к хакерам, которые клонировали голос этого генерального директора с помощью легкодоступного программного обеспечения.
История была зловещей, но то, о чем нам действительно нужно беспокоиться, еще не готово для Голливуда. Самая большая опасность для нашего современного Интернета и, возможно, общества в целом может исходить от обычных, почти банальных способов, которыми преступники могут использовать ИИ для масштабирования своих атак.
В декабре исследователи из Check Point Software наблюдали, как все используют ChatGPT для написания стихов и школьных работ, и задались вопросом: может ли он написать фишинговое электронное письмо? Или как насчет всей цепочки атак?
Они экспериментировали, сначала попросив ChatGPT написать приманку, побуждающую жертв загружать файл Excel. После нескольких итераций электронная почта достигла всех уловок, которые так любят хакеры: ложная легитимность, ощущение срочности и действенный призыв к действию.
Затем исследователи попросили ChatGPT написать макрос, который будет запускать пользовательский код, как только жертва откроет файл Excel. Затем они использовали другую программу OpenAI — Codex — для автоматического создания рабочей обратной оболочки, через которую они могли выполнять команды, собирать данные и отправлять больше вредоносного ПО на целевую машину. Они также попросили Codex разработать сканер портов и инструмент для идентификации виртуальных машин.
В результате получилась атака с раскраской по номерам, но неплохая для дневной работы. И теоретически любое количество программ, отличных от OpenAI, могло помочь в его улучшении.
Например, есть PassGAN, программа на основе нейронной сети, которая обучается на прошлых утечках данных для эффективного подбора паролей методом грубой силы. В исследовании 2019 года исследователи использовали его, чтобы превзойти даже самые современные инструменты для подбора паролей на основе машинного обучения.
Еще более коварным, чем PassGAN, является DeepLocker, еще одно вредоносное ПО, основанное на глубоком обучении, которое, по словам его создателей из IBM, может «заразить миллионы систем, не будучи обнаруженным». распознавание лиц — раскрывает ли оно себя, поражая лазерной точностью.
Что может сделать технологическая индустрия
Мы не сможем предотвратить киберпреступность с использованием ИИ, но мы можем работать над тем, чтобы предотвратить худшее и сделать наш Интернет еще более безопасным, чем сегодня.
Не прошло и месяца после того, как ChatGPT был выпущен для широкой публики, когда учителя возмущались тем, что он может способствовать списыванию, один студент взял на себя обязательство решить проблему. Эдвард Тиан, 22-летний выпускник Принстона, разработал приложение под названием GPTZero, которое может быстро и эффективно определить, написал ли эссе ChatGPT или человек.
Проще говоря; ИИ может быть использован в качестве оружия как хорошими парнями, так и плохими.
Чтобы завершить свой эксперимент, исследователи Check Point использовали Codex для извлечения важных данных из больших наборов данных на YARA и VirusTotal. Это был просто ограниченный вариант использования. Инструменты искусственного интеллекта уже давно играют центральную роль в обнаружении вредоносных электронных писем и выявлении аномального поведения намного быстрее, чем люди, для всех наших почтовых ящиков и ИТ-сетей. И это не говоря уже о роли ИИ в сборе данных и управлении ими, автоматизации задач и информировании об оценках рисков.
Подобно Годзилле против Кинг-Конга, мы можем бороться с киберпреступностью с помощью ИИ только с помощью кибербезопасности, усиленной ИИ. Это следующий рубеж. Это уже разворачивается на наших глазах.
Технологический совет Forbes — это сообщество только по приглашению для ИТ-директоров, технических директоров и руководителей технологических компаний мирового уровня. Имею ли я право?
