Борьба с волной ИИ: бесполезные упражнения или повышение осведомленности в долгосрочной перспективе?
Легенда рассказывает о короле Кануте, правителе Англии 12 века, который водрузил свой трон на берегу океана и потребовал, чтобы отливы отступили. Его сила была ограничена, и, вопреки распространенному мнению, он якобы сделал это, чтобы продемонстрировать пределы своей силы, а не потому, что ошибочно предполагал, что у него есть какие-то предполагаемые сверхъестественные способности.
Многие считают усилия по сдерживанию взрыва искусственного интеллекта тщетными усилиями в духе короля Канута. Однако точно так же, как король фактически намеревался высказать свою точку зрения, так и зарождающееся движение экспертов и активистов стремится пролить свет на потенциальные злоупотребления, которые может принести ИИ. При этом долгосрочная осведомленность может привести к лучшим результатам ИИ для бизнеса и общества.
Мы только что увидели это в открытом письме, подготовленном Институтом будущего жизни, в котором требуется шестимесячная «пауза» в «гигантских экспериментах с ИИ». Письмо было одобрено светилами мира технологий, в том числе Стивом Возняком, Илоном Маском, лауреатом премии Тьюринга Йошуа Бенджио, Стюартом Расселом, профессором Калифорнийского университета в Беркли, и Эваном Шарпом из Pinterest.
Усовершенствованного ИИ «планирование и управление не происходит, хотя в последние месяцы лаборатории ИИ застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать, или надежно контролировать», — говорится в письме.
Письмо «Будущее жизни» — не единственное противодействие проникновению ИИ в нашу жизнь и средства к существованию. В конце 2021 года Тимнит Гебру, известный исследователь ИИ, уволенный Google в декабре 2020 года за привлечение внимания к доминированию крупных технологий и манипулированию ИИ, начал движение «Медленный ИИ», как описано в статье, опубликованной в прошлом году. год в IEEE Spectrum Элиза Стрикленд. Гебру основал Исследовательский институт распределенного ИИ (DAIR), возглавив медленное движение ИИ.
«ИИ нужно вернуть на землю», — сказала она в пресс-релизе во время основания. «Это было поднято до сверхчеловеческого уровня, что заставляет нас поверить, что это неизбежно и находится вне нашего контроля. Когда исследования, разработка и развертывание ИИ с самого начала связаны с людьми и сообществами, мы можем справиться с этим вредом и создать будущее, в котором ценятся справедливость и человечность».
Одно дело — разработать ИИ навсегда, другое — попросить приостановить разработку. Отраслевые аналитики сомневаются, можно ли хотя бы на мгновение остановить эту волну и стоит ли вообще пытаться. «Похожий протест возник, когда IoT изначально стал популярным и в отношении сбора персональных данных», — говорит Энди Турай, главный аналитик Constellation Research. «Но ношение Fitbit и обмен данными, кажется, сейчас очень распространенная и общепринятая практика. Речь не должна идти об остановке определенной технологии или компании, если они действительно не вышли из-под контроля».
Это письмо «абсурдно даже на первый взгляд, — соглашается Джеймс Кобелус, старший директор по исследованиям в области управления данными в TDWI. испытан в полевых условиях через шесть месяцев. Он также, кажется, предполагает, что более мощные модели являются проблемой, а не решением. И он предполагает, что все просто собираются остановить головокружительную конкуренцию в области инноваций только потому, что у нее есть уязвимости. Это последнее беспокойство никогда не было остановили любые технологические инновации где бы то ни было».
Если разработка ИИ «остановится или мы наложим мораторий на определенный срок, что тогда?» — спрашивает Турай. «Можно ли выполнить работу через шесть месяцев? Что бы изменилось тогда? Будут ли страны-плохие игроки и страны-конкуренты останавливать развитие, или это применимо только к США? Если да, то почему мы стреляем себе в ногу? Если это глобальный вопрос, как мы собираемся его навязывать?»
Другими словами, шоу должно продолжаться. «Переместите акцент на работу над надлежащим управлением, безопасностью, надзором и ограничениями, в рамках которых этим системам разрешено работать», — призывает Турай. «Определите, что приемлемо, а что нет. Не убивайте инновации».
Конечно, требовать паузы в развитии каких-либо технологий, особенно когда в них завязаны большие деньги, вряд ли получится. Однако такие усилия приводят к повышению осведомленности об опасностях бесчинства ИИ. Подобно тому, как усилия по прекращению курения в 1960-х годах, казалось, мало что давали на раннем этапе — люди продолжали курить и умирать — мы в конечном итоге пришли к миру, где вопросам здоровья уделяется должное внимание, а курение запрещено повсюду. Осознание рисков, связанных с искусственным интеллектом, также может занять некоторое время, чтобы оно проникло в бизнес и общество.
