Переломный момент ИИ: от темных сил к творческому освобождению, что впереди?
Генеративный ИИ переживает непрекращающийся момент с выпуском ChatGPT-4 в этом месяце и его потенциальным влиянием, ну, в общем, на все. Его поверхность была лишь слегка поцарапана, а виртуальные чат-боты в настоящее время захватывают наше воображение.
Когда дело доходит до ИИ, сразу же возникает несколько вопросов, таких как рабочие места и люди, выполняющие их, которые могут быть заменены, вопросы интеллектуальной собственности и авторского права на кону, существующие модели этики и управления (или их отсутствие), а также кто или что решает, насколько глубоко встроенные они станут в нашей повседневной жизни.
Потенциал ИИ все еще находится в зачаточном состоянии, поскольку он способен трансформировать основные критически важные системы, такие как здравоохранение, сельское хозяйство и научные исследования, самым удивительным образом. А также способами, которые кажутся тревожными и обесценивающими из-за сочетания непреднамеренных последствий или поиска наивных или плохих действующих лиц во власти для его развития.
Независимо от того, относитесь ли вы к 35% американских предприятий, которые, по словам IBM, уже напрямую используют ИИ, или к 42%, которые изучают его (или даже к оставшимся 23%, которые пока смотрят в другую сторону), это реальность ближайшего будущего.
Имея это в виду, я сел для обмена мнениями с Жилем Бабине, вице-президентом Французского национального совета по цифровым технологиям, представляющим Францию в сфере цифровых технологий в ЕС. Его роль заключается в изучении потенциала, влияния и границ новых технологий, а также в оценке возможностей и угроз, возникающих в будущем. Здесь мы исследуем возможности и подводные камни того, что может быть впереди.
Давайте начнем с ИИ и подумаем о его приложениях, таких как ChatGPT. На каком этапе его развития, по вашему мнению, мы находимся сегодня?
ГБ: ChatGPT — это момент «ага» для западных стран, как это было для китайского и азиатского рынка, когда миллионы людей смотрели, как компьютерная программа AlphaGo обыграла лучшего игрока в го Ли Седоля на турнире в Южной Корее в 2016 году. Это стало шоком для рынок и вызвал ажиотаж ИИ.
Но большие языковые модели (LLM) и модели подкрепления, лежащие в основе ChatGPT, появились не так давно. LLM использовали еще в 90-х годах, а обучение с подкреплением берет свое начало еще в 80-х. Главный прорыв состоял в том, чтобы довести их до масштабов и изменить понимание людей, чтобы они не сомневались в том, насколько мощным может быть ИИ.
Каково ваше мнение об ускорении ИИ из области науки, исследований и академических кругов в хорошо финансируемый, высокоскоростной, коммерческий деловой мир с большим количеством средств массовой информации и потребительским интересом?
ГБ: В течение многих лет, даже десятилетий, эти технологии были слишком сложными, чтобы их можно было широко использовать. Теперь они становятся более простыми, готовыми к использованию и, следовательно, с гораздо большей вероятностью будут опробованы и реализованы в гораздо большем масштабе.
Но вместе с этим возникают огромные риски, начиная от дезинформации и финансовых афер (проверьте «Афера любви с ИИ» или «Мошенничество с генеральным директором ИИ»), заканчивая доверием друг к другу, и даже сама демократия может оказаться под угрозой с этой новой технологией.
Как писали в соавторстве Генри Киссинджер и Эрик Шмидт, эта технология может быть самой сложной проблемой, с которой когда-либо сталкивался наш современный мир.
Меня больше всего беспокоит взлом нашей свободы воли, меркантилизация нашей жизни, риск того, что ИИ может быть использован для искажения реальности за счет демократии и изоляции нас друг от друга.
С.А.: С другой стороны, мы видели как положительные (так и отрицательные) примеры того, что происходит, когда научные исследования и открытия переходят в коммерческое применение. Я имею в виду ЦЕРН и его разработку адронного коллайдера с его исследованием теорий элементарных частиц. Открытия, которые впоследствии стали использоваться в медицинской диагностике и терапии, включая лечение рака.
Мне кажется, что положительные результаты вполне достижимы, если мы сможем определить правильные границы. Но это большое если.
Итак, вернемся к темной стороне, и теперь мы довольно напуганы, можете ли вы уточнить?
ГБ: До сих пор мы пытались бороться с не очень сложными технологиями, такими как спам и фишинг. Теперь представьте, что вы совершаете настоящий видеозвонок с кем-то, у кого такое же лицо и голос, как у кого-то из ваших знакомых (вашей матери, друга, вашего начальника), но кто полностью фальшивый.
Можно подумать, что это научная фантастика, но это уже произошло, а с распространением технологий искусственного интеллекта любому человеку будет еще проще подделывать или выдавать себя за кого-то.
Нас так много беспокоит, что вас больше волнует в связи с его потенциалом к позитивным изменениям, чем вызывает страх?
ГБ: Просто невозможно сказать, какая сторона, положительная или отрицательная, преобладает — просто слишком много переменных.
Смогут ли страны регулировать? Будут ли новые и эффективные инструменты для эффективного обнаружения мошенничества с искусственным интеллектом? Будет ли закон Мура, согласно которому количество транзисторов в микрочипе удваивается каждые два года, будет действовать десятилетиями или ему придет конец?
Одно можно сказать наверняка: теперь никто не может остановить развертывание этих технологий.
Поэтому мы должны увеличить количество талантливых людей, исследователей и стартапов, входящих в индустрию, чтобы иметь больше сил для противодействия невидимым и темным, когда они появляются.
С.А.: Доверие здесь явно имеет решающее значение, а поскольку геополитическая напряженность более четко определяется идеалами и господством сторонников и противников Запада, неясно, как мы достигнем модели глобального цифрового управления, которой сможет придерживаться весь мир.
С одной моделью формирования «киберсуверенитета», которая может бросить вызов открытости и функциональной совместимости цифровой экономики по сравнению с более легкой моделью нормативных стандартов, которую предпочитают демократии, такие как страны Европейского Союза. Мы далеки от идеального общего стандарта без ясного пути вперед
Мы явно находимся на важном этапе, когда баланс отрицательного или положительного влияния ИИ на общество может сложиться в любую сторону. Когда вы даете правительству рекомендации относительно будущей роли технологий, какую положительную роль, по вашему мнению, может сыграть ИИ как в нашей экономике, так и в обществе?
ГБ: Нам срочно нужны новые инструменты повышения производительности, так как нужно решить так много проблем (окружающая среда, слаборазвитые страны и т. д.), которые не решить с помощью наших нынешних технологий, и ИИ, скорее всего, быстро их решит.
Однако риски высоки, и поэтому нам необходимо иметь сильные и эффективные правила.
Хотя многие штаты и регулирующие органы начинают осознавать, насколько опасными могут быть некоторые социальные сети — как для демократии, так и для психического здоровья людей, особенно молодежи, — они пока не действуют достаточно быстро.
Итак, что они должны делать? И какая модель регулирования, по вашему мнению, необходима — саморегулирование отрасли, правительство или их сочетание?
ГБ: Тот факт, что это представляет собой смену парадигмы, проявляется в том, насколько сложно регулирующим органам справиться с новичками. Существуют постоянные опасения по поводу антимонопольного законодательства, регулирования данных, неправомерного использования данных, национальной безопасности и т. д. в Китае, США и Европе. Кто бы мог подумать, что TikTok может стать проблемой национальной безопасности как для США, так и для Европы?
В более долгосрочной перспективе я вижу, что регулирование движется к двум новым территориям: (i) регулирование толпы (которое уже поставлено на карту в Законе о цифровых услугах в Европе), где пользователи будут заявлять о таких проблемах, как ненадлежащий контент. в социальных сетях; (ii) Регулирование ИИ для противостояния ИИ с платформ.
Регулировать содержание платформы очень легко, и в большинстве случаев это остается незамеченным. Только постоянное регулирование, которое выявит некоторую модификацию алгоритма, будет достаточно эффективным, чтобы противостоять потенциалу крупных технологических платформ.
В более общем плане все это будет работать только в том случае, если будет способ рассказать как можно большему количеству людей как о рисках, так и о возможностях этих технологий… и надеяться на лучшее.
Это такой важный момент — по мере того, как мы погружаемся в потенциал ИИ, мы не должны упускать из виду его влияние на более широкое общество и отдельных людей. Не могли бы вы уточнить, какие формы образования, по вашему мнению, необходимы?
ГБ: В настоящее время я работаю над этим с министром цифровых технологий Франции. Мы считаем, что он может начаться с очень низкого уровня, просто отвечая на основные вопросы людей: не будет ли ИИ избавлен от посредников в моей работе? Станет ли ИИ разумным? А затем постепенно открывайте людям более сложные вопросы; пусть разберутся, что такое сверточная сеть ИИ (алгоритм глубокого обучения), и, может быть, даже сами станут экспертами.
Нам нужно проложить путь к этому, предприняв множество шагов, которые позволят каждому достичь максимально возможного уровня знаний.
А как насчет влияния ИИ на культуру? Что вы думаете о том, как это уже влияет и будет все больше влиять на творчество и искусство?
ГБ: С одной стороны, я могу предположить, что будет много юридических проблем, в частности, связанных с правами на публикацию, которые могут привести к судебным процессам такого же типа (возможно, даже более масштабным), чем те, что были в начале 2000-х с Napster и подобными P2P. платформы.
Но, с другой стороны, я вижу, что искусственный интеллект значительно повышает творческий потенциал художников. В большинстве случаев я вижу, как ИИ увеличивает потенциал человеческих инноваций и творчества.
СА: Мне хотелось бы представить, что со временем вы могли бы разработать своего личного «творческого партнера» ИИ. У ИИ есть две задачи: одна помогает нам быть более организованными и продуктивными, автоматизируя вещи, которые способствуют творчеству, но не являются творческими сами по себе, а другая больше похожа на роль музы и волшебника, помогая вызывать в воображении неожиданные идеи и путешествия, которые еще предстоит вообразить.
Я хотел бы услышать немного больше об этом творческом воздействии. На ваш взгляд, каковы некоторые из лучших способов использования ИИ таким образом сейчас? И как вы видите это развитие в будущем?
ГБ: Просто попробуйте DALL-E. Это невероятно. Я попросил изображения для обложки моей следующей книги, и всего через час она вернулась с несколькими вариантами, которые были настолько хороши, что я задумался, как показать их графическому дизайнеру, который пытался сделать несколько первоначальных набросков. Что, если бы этот самый дизайнер сам использовал DALL-E? Она наверняка придумала бы гораздо лучшие версии, чем мои попытки.
С.А.: Я согласен с тем, что многие из инструментов, которые теперь доступны нам на кончиках пальцев, невероятны, и то, как мы можем получить к ним все больший доступ, освобождает.
С культурной точки зрения я думаю, что это очень интересно, потому что то, как мы интерпретируем мир и взаимодействуем с ним, будучи человеческими существами, настолько социально сконструировано и имеет множество нюансов. Нас так долго принуждали к общему стандарту, основанному на технологических ограничениях, и будет интересно посмотреть, как это изменится по мере того, как мы и технологии развиваемся вместе, концептуально отличаясь и по-разному устроены.
Мы также видим большой прогресс и реальные приложения, связанные с геномикой, биометрией, блокчейном, виртуальной и дополненной реальностью, 3D-печатью, робототехникой и т. д. Что вас больше всего волнует в том, как эти технологии все больше интегрируются и взаимодействуют в нашей жизни?
ГБ: Мне интересно, можем ли мы сократить эффективность ИИ до ограниченного числа полей. Я вижу, как это применяется к технологиям, искусству, науке и не только. Например, в сельском хозяйстве я вижу огромный прирост производительности.
Фермеру приходится иметь дело с огромным количеством факторов одновременно, и они меняются на протяжении всего сельскохозяйственного процесса: температура, влажность, почвы, цены, семена, удобрения, механические процессы и многое другое. Их сотни — и слишком много, чтобы их можно было эффективно оптимизировать.
Когда мы приводим ИИ к этому примеру, он может очень хорошо справляться как с многофакторными процессами, так и с последовательными (которые меняются со временем). Потенциал заключается в более продуктивном сельском хозяйстве, которое является более экологичным и использует гораздо меньше удобрений, создавая меньше внешних факторов и потенциально создавая положительные результаты, такие как улавливание углерода.
Мы очень надеемся на этот потенциал для решения насущных глобальных проблем, стоящих перед человечеством. Используется ли ИИ таким образом в сельском хозяйстве?
ГБ: Пока нет массового подхода к этому, но исследования разных университетов кажутся перспективными. Массачусетский технологический институт, Карнеги-Меллон и Технион входят в число университетов, работающих в этой области. Некоторые компании, такие как John Deere, также являются активными сторонниками трансформационного потенциала ИИ. Хотя трудно оценить точный потенциал, можно легко предположить, что роботизация и ИИ окажут огромное влияние на сельское хозяйство в течение 10 лет.
С.А.: Как и многие другие, я все больше вовлекаюсь в заботу о стареющих родителях, и легко недооценить, насколько серьезным может быть одиночество для тех, кто живет в более индивидуалистических обществах или субкультурах, а не в сообществах. Насколько я вижу, его последствия для здоровья и качества жизни огромны, и в этом отношении я вижу очень практическую роль ИИ в сочетании с робототехникой для заполнения столь необходимого пробела. Будь то поддержка, стимулирование и обеспечение безопасности страдающих деменцией или сохранение любви и воспоминаний о ком-то, кого любили всю жизнь, кого больше нет.
Я думаю, что именно такого рода приложения могут оказать очень положительное влияние на нашу жизнь и на то, как мы интегрируем в них технологии.
Это захватывающая область для привлечения внимания с огромными последствиями — и она показывает силу добра, которую ИИ может иметь в мире и в нашем будущем. Вы лично примете в этом участие?
ГБ: Я был бы счастлив, если бы помог ИИ стать ключевым элементом решения по декарбонизации для решения экологического кризиса. Я считаю, что все идет в правильном направлении, но многое зависит от нахождения правильного баланса между новаторами и регулирующими органами, а это непросто в глобальном масштабе.
SA: Большое спасибо за то, что поделились своими мыслями и за всю ту замечательную работу, которую вы проделываете, пока мы преодолеваем этот переломный момент и смело движемся в будущее.
