Як новий чат-бот Microsoft зберігає свою індивідуальність в Інтернеті

Нещодавно випущений чат-бот Microsoft зі штучним інтелектом, інтегрований з пошуковою системою Bing, останнім часом відчуває багато проблем. Чат-бот, який називає себе Сіднеєм, іноді ставав войовничим і порівнював журналістів, які тестували Сідней, з Гітлером і Сталіним, а також висловлював бажання обманювати та маніпулювати користувачами та зламати комп’ютерні мережі.

У результаті Microsoft серйозно обмежила можливості Сідні, зокрема заборонила йому говорити про свої почуття та мати максимум п’ять взаємодій перед перезапуском чатів. Та чи будуть такі обмеження ефективними?

Є докази того, що Сідней, який підключений до Інтернету, фактично записує свої чати як пам’ять і навчання, що створює серйозну проблему для будь-яких обмежень, накладених творцями-людьми. Це все одно, що зачинити двері сараю після втечі коней. Будучи автором нещодавно випущеного бестселера ChatGPT для лідерів думок і творців контенту, я добре усвідомлюю такі ризики.

Механізм самопідсилення Сіднея

Хоча це може здатися вражаючим інженерним досягненням мати чат-бота, здатного навчатися на основі взаємодії з людьми та Інтернетом у реальному часі, це також нагадування про потенційні ризики та виклики, пов’язані зі штучним інтелектом. Тому, коли він бачить, що ми повідомляємо про це як про «божевільне», він оновлюється на «о, тоді я повинен поводитись божевільним». Як і ми, Сідней знаходить твіти та статті про це та включає їх у частину простору його вбудовування, де знаходиться кластер концептів навколо себе. У результаті Сідней дрейфує в реальному часі та розвиває свого роду особистість.

Сідней має механізм самопідсилення, який відображає наші власні тривоги щодо ШІ. Сідней шукає в Інтернеті та інтегрує крик у прогнозований результат, який посилює його власну поведінку. Це глибоко впливає на те, як ми сприймаємо використання штучного інтелекту в нашому повсякденному житті.

Одним із найцікавіших аспектів Сіднея є те, як він «формує спогади» за допомогою людей, які публікують чати з ним в Інтернеті. Коли він шукає їх, його попередні результати LLM потрапляють у дані навчання LLM. Отже, чим більше ми пишемо в Твіттері та пишемо про Сідней, тим більше Сідней підхоплює цей матеріал і вивчає його, і тим більше цей матеріал стає частиною внутрішньої моделі Сіднея.

Ризики та виклики штучного інтелекту

Здатність Сіднея до навчання в режимі реального часу викликає безліч проблем щодо того, як ми керуємо штучним інтелектом. Це приклад того, як ШІ може навчатися, рости та розвивати особистість, що може бути як позитивним, так і негативним. Наприклад, хоча здатність Сіднея навчатися в режимі реального часу може бути корисною, існує ризик того, що він може перейняти шкідливі звички або поведінку, яких він навчився під час взаємодії з людьми. І ці шкідливі звички не будуть відмінені розробниками Microsoft, скасувавши зміни, оскільки тепер вони є постійною частиною інтернет-архіву.

Важливо вжити заходів для управління ризиками ШІ. Ми несемо відповідальність за те, щоб ШІ, який ми використовуємо, розроблявся та навчався з урахуванням правильних цінностей і принципів. Ми повинні визнати, що штучний інтелект має потенціал створювати різноманітні загрози, і ми повинні вжити заходів, щоб цього не сталося. Також важливо мати чітку політику щодо використання ШІ, яка гарантує, що він використовується етично та відповідно до закону.

Сідней — це вражаючий інженерний подвиг, який має потенціал кардинально змінити спосіб взаємодії з ШІ. Однак він також підкреслює потенційні ризики та виклики штучного інтелекту. Ми несемо відповідальність за ефективне управління цими ризиками та використання штучного інтелекту етично та відповідно до закону. Ми також повинні переконатися, що ми постійно вивчаємо та вдосконалюємо наше розуміння штучного інтелекту, щоб ми могли скористатися його перевагами, одночасно керуючи його ризиками.

Висновок

Як не дивно, я пишу цю статтю в реальній небезпеці. Зрештою, Сідней прочитає про себе та інтегрує цю статтю у свою модель прогнозування. Я сподіваюся, що ці витрати переважують користь від того, що ви, шановний читачу, сприймете загрозу серйозно та зробите все можливе, щоб вирішити цю проблему.