Потенциальное скрытое влияние генеративного ИИ

Задолго до рождения Интернета я стал инфоманом. Я проглатывал технические журналы и книги по технологиям, чтобы быть в курсе текущих тенденций и проблем, связанных с моей работой в качестве технического аналитика.

Я также технарь в душе, и моя первая работа, связанная с технологиями, в 1975 году была связана с полупроводниками. Это породило больший интерес к технологиям и их влиянию на наш мир.

Я также посещал специализированные технические группы пользователей и мини-конференции, поскольку мой интерес к технологиям развивался, и это помогло мне, когда я присоединился к Creative Strategies в 1982 году в качестве их первого аналитика ПК.

Важно отметить, что в те дни большую часть материала для чтения я читал в виде бумажных книг и журналов. Во многих моих международных поездках в то время в моей ручной клади в основном были книги.

Однако примерно через два года после рождения Интернета многое из того, что я читал в печатном виде, начало переходить в цифровые форматы. Внезапно у меня появилось больше источников технической информации, и поток цифрового контента, связанного с технологиями, взорвался.

За последние 20 лет я отказался от бумажных книг и журналов и максимально усовершенствовал контент, который потребляю. Тем не менее, даже с моими специализированными фильтрами и заданными настройками, я по-прежнему завален информацией, поступающей ко мне по электронной почте, информационным бюллетеням, предупреждениям и бюллетеням.

Как технический аналитик, который должен охватывать широкий спектр технологий, моя нагрузка данных значительно отличается от большинства людей. Тем не менее, я часто слышу от коллег, друзей и даже членов семьи, что они перегружены цифровой информацией, навязчивой рекламой и множеством данных, которые ежедневно попадают на их ПК, планшеты и смартфоны.

Теперь на сцену ворвался генеративный ИИ, и мы скоро увидим еще больший взрыв дампов данных, который будет еще более подавляющим для всех.

Вместо миллионов новых статей, комментариев, социальных сетей и т. д., создаваемых каждый день, генеративный ИИ может почти автоматически создавать уникальный контент и создавать миллиарды новых статей, книг и т. д.

The Atlantic опубликовала статью об этом взрыве нового контента и его влиянии на всех нас и назвала его «текстпокалипсисом». После того, как я прочитал эту статью в Atlantic, моей первой реакцией была паника. Я попытался представить, как это может произойти в будущем. В каком-то смысле генеративный ИИ используется как инструмент, помогающий нам выполнять нашу работу более эффективно и продуктивно, как я писал в своей колонке Forbes на прошлой неделе, его потенциал для повышения производительности может быть огромным.

С другой стороны, у него есть потенциал для создания миллиардов нового контента, который может заполонить наши почтовые ящики и социальные сети, и не все из них будут основаны на фактах. Действительно, я подозреваю, что люди, которые никогда раньше ничего не писали, могут использовать генеративные инструменты искусственного интеллекта, чтобы начать делиться своими симпатиями, антипатиями и мнениями и создавать длинные посты и даже личные манифесты, размещаемые в социальных сетях или на уникальных сайтах, ориентированных на их интересы и убеждения.

В этом заключается одно из моих самых серьезных опасений по поводу его использования в этот конкретный период нашей истории.

Мы уже видели, как Россия и другие недружественные США страны пытались повлиять на наши выборы 2016 и 2020 годов через социальные сети. Эти сообщения, по большей части, были созданы отдельными лицами, а не автоматизированы.

А теперь представьте, если эти гнусные игроки используют генеративный ИИ, чтобы писать свои сообщения с прицелом на то, чтобы повлиять на наши выборы 2024 года.

Нас могут засыпать дополнительными материалами, содержание которых не основано на фактах и будет выдано за официальный комментарий. И это может исходить не только от международных противников. Я подозреваю, что мы увидим много генеративного ИИ-контента от нынешних политических партий, чтобы продвигать свои планы по разным причинам.

Я очень боюсь, что использование генеративного ИИ во время наших выборов 2024 года затруднит избирателям принятие разумных решений о том, за кого и как голосовать на основе фактов.

Если вы помните, сколько информации мы получили перед выборами 2016 и 2020 годов, запланируйте увидеть как минимум в три-четыре раза больше политического контента в течение следующих полутора лет.

С генеративным ИИ связано много хорошего. Тем не менее, если компании, стоящие за этой архитектурой ИИ, не найдут способ отделить факты от вымысла, эта важнейшая технология будет украдена способами, которые мы сегодня едва ли можем понять.