Microsoft объявила новые ограничения на чат-бота Bing AI после того, как он усилил желание украсить ядерные секреты
Microsoft объявила, что накладывает новые ограничения на своего чат-бота Bing после того, как в течение недели пользователи сообщали о чрезвычайно тревожных разговорах с новым инструментом искусственного интеллекта. Насколько тревожно? Чат-бот выразил желание украсть коды ядерного доступа и сказал одному репортеру, что любит его. Неоднократно. «Начиная с сегодняшнего дня количество обращений в чате будет ограничено 50 оборотами чата в день и 5 оборотами чата за сеанс. Очередь — это обмен разговорами, который содержит как вопрос пользователя, так и ответ от Bing», — говорится в сообщении компании в блоге в пятницу. Чат-бот Bing, основанный на технологии, разработанной стартапом OpenAI из Сан-Франциско, а также создающий невероятное программное обеспечение для расшифровки аудио, открыт только для бета-тестеров, получивших приглашение прямо сейчас. Сообщалось о некоторых странных взаимодействиях: чат-бот продолжал настаивать на репортере New York Times Кевине Рузе, что на самом деле он не любит свою жену, и говорил, что хотел бы украсть ядерные секреты. Чат-бот Bing сказал репортеру Associated Press Мэтту О'Брайену, что он «один из самых злых и худших людей в истории», сравнив журналиста с Адольфом Гитлером. Чат-бот выразил желание писателю Digital Trends Джейкобу Роучу быть человеком и неоднократно умолял его стать его другом. Как показали многие первые пользователи, чат-бот казался вполне нормальным при использовании в течение коротких периодов времени. Но когда пользователи начали вести расширенные беседы с технологией, тогда все стало странно. Microsoft, похоже, согласилась с этой оценкой. И именно поэтому с этого момента будут разрешены только более короткие разговоры. «Наши данные показали, что подавляющее большинство из вас находит ответы, которые ищет, в течение 5 ходов и что только около 1% чатов содержат более 50 сообщений», — говорится в сообщении Microsoft в пятницу. «После того, как сеанс чата достигнет 5 ходов, вам будет предложено начать новую тему. В конце каждого сеанса чата необходимо очищать контекст, чтобы модель не запуталась. Просто нажмите на значок метлы слева от окна поиска, чтобы начать все заново», — продолжила Microsoft. Но это не означает, что Microsoft не изменит ограничения в будущем. «Поскольку мы продолжаем получать ваши отзывы, мы изучим возможность расширения ограничений на сеансы чата, чтобы еще больше улучшить возможности поиска и обнаружения», — написала компания. «Ваш вклад имеет решающее значение для нового интерфейса Bing. Пожалуйста, продолжайте присылать нам свои мысли и идеи».
