Итерации быстрее: уроки, извлеченные из Google Bard Vs. ЧатGPT
Моаз Набиэль является основателем TrimCheck, приложения для бронирования «все в одном» для мобильных парикмахеров и парикмахеров из независимых магазинов.
Искусственный интеллект был одной из самых преобразующих технологий последнего десятилетия, и его влияние на отрасли от здравоохранения до финансов было значительным. В области ИИ скорость итерации может иметь решающее значение. Двумя недавними примерами этого являются разработка моделей BERT и BARD от Google и серии моделей GPT от OpenAI. Благодаря быстрому повторению эти модели становятся все более мощными и эффективными, штурмуя Интернет благодаря своим новаторским возможностям.
Google был одним из крупнейших игроков в области искусственного интеллекта, и его модель BERT была впервые выпущена в конце 2018 года. С тех пор компания выпустила несколько новых версий, каждая со своими улучшениями и функциями. В 2019 году Google выпустила ALBERT, «облегченную» версию BERT, которая достигла самых современных результатов в нескольких задачах обработки естественного языка при использовании значительно меньшего количества параметров. В 2020 году Google выпустила ELECTRA, модель, которая показала самые современные результаты в нескольких тестовых задачах и была более эффективной в вычислительном отношении, чем BERT. В том же году Google выпустил T5, модель, в которой обучение по преобразованию текста в текст сочетается с тонкой настройкой конкретных задач. Совсем недавно Google выпустила BARD, модель, которая опирается на сильные стороны BERT, но включает дополнительные возможности, такие как мультимодальный ввод и ответы на вопросы.
Стоит отметить, что для такой крупной компании, как Google, необычно быстро выполнять итерации, поскольку бюрократия и неприятие риска часто могут замедлить процесс. Однако этот подход часто оказывался успешным для Google, как это было во время браузерных войн между Chrome и Internet Explorer. Несмотря на запуск Chrome в 2008 году, спустя целое десятилетие после начала войн браузеров, Chrome смог обогнать Internet Explorer в качестве ведущего браузера к 2012 году благодаря своей стратегии быстрой итерации и постоянным обновлениям.
Однако на этот раз упор на скорость мог вызвать негативную реакцию, которая была слишком дорогой с точки зрения пиара даже для Google. Многие думают, что успех GPT-3.5 от OpenAI, возможно, преждевременно вынудил Google действовать. Его бета-версия была далеко не идеальной, с рядом неудач, таких как модель, которая давала неверные результаты на вопросы о космическом телескопе Джеймса Уэбба во время его дебютной рекламы. Это привело к тому, что материнская компания Google, Alphabet, потеряла более 102 миллиардов долларов рыночной стоимости, поскольку на следующий день акции Alphabet упали на 7,7%.
Хотя приоритет скорости над качеством итерации, очевидно, может иметь свои недостатки, в области ИИ гонка за накоплением больших объемов данных требует такого подхода. Это связано с тем, что чем чаще итерации делает модель, тем быстрее она может получить больше данных и обратной связи для улучшения своей модели.
Значение скорости итерации в ИИ можно объяснить совокупным эффектом, который первый выход на рынок оказывает на производительность модели. В области, где объем данных играет решающую роль в точности модели, преимущество первопроходца создает постоянно растущий барьер для входа для других конкурентов. Google, возможно, поторопился с выпуском BARD, потому что понимает, что его модели всегда можно улучшить, но как только преимущество первопроходца утрачено, барьер становится слишком большим, чтобы его преодолеть, даже с более совершенной моделью.
Серия моделей OpenAI GPT является ярким примером быстрой итерации в правильном ИИ. Первая модель серии, GPT-1, была выпущена в 2018 году и уже стала прорывом в области обработки естественного языка (NLP). GPT-1 был обучен на большом массиве текстовых данных и мог генерировать связные предложения и абзацы в ответ на подсказки. Однако последующие версии серии GPT были еще более впечатляющими.
GPT-2, выпущенный в 2019 году, был обучен на еще большем наборе текстовых данных и смог генерировать очень убедительный, связный текст. Однако выпуск GPT-2 вызвал споры из-за опасений по поводу его потенциального неправомерного использования для создания поддельных новостей или другого вредоносного контента. Несмотря на это, GPT-2 все же смог добиться значительных успехов в области НЛП.
В 2020 году OpenAI выпустила GPT-3, которая быстро стала самой обсуждаемой моделью в сообществе НЛП. GPT-3 был обучен на еще большем массиве текстовых данных, чем GPT-2, и смог генерировать очень убедительный текст, который мог выполнять множество задач, включая перевод, ответы на вопросы и даже написание целых статей. Успех GPT-3 объясняется его способностью генерировать текст, похожий по стилю и качеству на текст, написанный человеком, что делает его подходящим для широкого круга приложений.
Однако ГПТ-3 не была лишена недостатков. Некоторые пользователи сообщали, что модель давала предвзятые или неточные результаты, и высказывались опасения по поводу того, что модель может быть использована не по назначению для создания поддельных новостей или другого вредоносного контента. Эти опасения привели к тому, что OpenAI ограничил доступ к полной версии GPT-3 и потребовал от пользователей подать заявку на доступ.
Несмотря на эти опасения, успех GPT-3 подчеркивает важность быстрых итераций в области ИИ. Постоянно совершенствуя и совершенствуя свои модели, OpenAI смогла опередить конкурентов и добиться значительных успехов в области ИИ, а следующая версия (GPT-4), по слухам, уже запланирована к выпуску в первом квартале 2023 года.
По мере развития ИИ мы можем ожидать еще более впечатляющих достижений в будущем. Поскольку обработка данных и естественного языка становится все более важной, будет интересно посмотреть, как такие компании, как Google и OpenAI, продолжат раздвигать границы возможного с помощью ИИ. С каждым новым выпуском потенциал ИИ революционизировать наш мир новыми захватывающими способами растет.
В заключение, невозможно переоценить важность быстрой итерации в области ИИ. Поскольку область продолжает расти, способность быстро собирать отзывы и улучшать модели будет иметь решающее значение для успеха. Это гонка за то, чтобы оставаться впереди, и компании, которые смогут выполнять итерации быстрее и эффективнее, выйдут на первое место. Однако важно найти компромисс между скоростью и качеством, как показал опыт Google с бета-версией BARD.
