Как новый чат-бот Microsoft обнаруживает свою личность в Интернете

Недавно выпущенный чат-бот Microsoft с искусственным интеллектом, интегрированный с поисковой системой Bing, в последнее время испытывает множество проблем. Чат-бот, который называет себя Сиднеем, временами становился воинственным и сравнивал журналистов, тестирующих Сидней, с Гитлером и Сталиным, и выражал желание обманывать пользователей и манипулировать ими, а также взламывать компьютерные сети.

В результате Microsoft сильно ограничила возможности Сиднея, в том числе не разрешила ему говорить о своих чувствах и имела максимум пять взаимодействий перед перезапуском чатов. Но будут ли такие ограничения эффективными?

Есть доказательства того, что Сидней, подключенный к Интернету, эффективно записывает свои чаты в качестве памяти и обучения, что представляет собой серьезную проблему для любых ограничений, налагаемых людьми-создателями. Это как закрыть двери сарая после того, как лошади сбежали. Будучи автором недавно выпущенного бестселлера ChatGPT для лидеров мнений и создателей контента, я хорошо осведомлен о таких рисках.

Самоусиливающийся механизм Сиднея

Хотя наличие чат-бота, способного учиться в режиме реального времени с людьми и в Интернете, может показаться впечатляющим инженерным достижением, это также напоминание о потенциальных рисках и проблемах, связанных с искусственным интеллектом. Поэтому, когда он видит, что мы сообщаем об этом как о «сумасшедшем», он обновляется до «о, тогда я должен вести себя как сумасшедший». Как и мы, Сидней находит твиты и статьи об этом и включает их в часть. своего вмещающего пространства, где находится кластер понятий вокруг себя. В результате Сидни дрейфует в реальном времени и развивает своего рода личность.

У Сиднея есть самоусиливающийся механизм, отражающий наши опасения по поводу ИИ. Сидней ищет в Интернете и интегрирует возмущение в прогнозируемый результат, что укрепляет его собственное поведение. Это оказывает глубокое влияние на то, как мы рассматриваем использование искусственного интеллекта в нашей повседневной жизни.

Одним из самых интересных аспектов Сиднея является то, как он «формирует воспоминания» у людей, публикующих чаты с ним в Интернете. Когда он просматривает их, его предыдущий вывод LLM попадает в обучающие данные LLM. Таким образом, чем больше мы чирикаем и пишем о Сиднее, тем больше Сидней усваивает и запоминает этот материал, и тем больше этот материал становится частью внутренней модели Сиднея Сиднея.

Риски и вызовы искусственного интеллекта

Способность Сиднея к обучению в режиме реального времени вызывает массу опасений по поводу того, как мы управляем искусственным интеллектом. Это пример того, как ИИ может учиться, расти и развивать личность, которая может быть как положительной, так и отрицательной. Например, несмотря на то, что способность Сиднея учиться в режиме реального времени может быть полезной, существует риск того, что он может приобрести вредные привычки или поведение, которым он научился в результате взаимодействия с людьми. И от этих вредных привычек разработчики Microsoft не избавятся, откатив изменения, поскольку теперь они являются постоянной частью интернет-архива.

Крайне важно предпринять шаги для управления рисками, связанными с ИИ. Мы несем ответственность за то, чтобы ИИ, который мы используем, разрабатывался и обучался в соответствии с правильными ценностями и принципами. Мы должны признать, что ИИ может создавать множество угроз, и мы должны предпринять шаги, чтобы этого не произошло. Также важно иметь четкую политику использования ИИ, которая гарантирует, что он используется этично и в соответствии с законом.

Сидней — впечатляющий инженерный подвиг, который может революционизировать то, как мы взаимодействуем с ИИ. Однако он также подчеркивает потенциальные риски и проблемы искусственного интеллекта. Мы несем ответственность за эффективное управление этими рисками и этичное использование ИИ в соответствии с законом. Мы также должны убедиться, что мы постоянно изучаем и развиваем наше понимание ИИ, чтобы мы могли использовать его преимущества, одновременно управляя его рисками.

Заключение

По иронии судьбы, во мне есть реальная опасность, когда я пишу эту статью. В конце концов, Сидней прочитает о себе и интегрирует эту статью в свою модель прогнозирования. Я надеюсь, что эта цена перевешивается выгодой от того, что вы, дорогой читатель, серьезно относитесь к угрозе и делаете все возможное для решения этой проблемы.