Ітерація прискорюється: уроки Google Bard Vs. ChatGPT
Моаз Набіель є засновником TrimCheck, універсальної програми бронювання для мобільних перукарів і незалежних перукарів.
Штучний інтелект був однією з найбільш трансформаційних технологій останнього десятиліття, і його вплив на галузі від охорони здоров’я до фінансів був значним. У сфері ШІ швидкість ітерації може мати велике значення. Два нещодавні приклади цього – розробка моделей Google BERT і BARD і серія GPT моделей OpenAI. Завдяки швидкій ітерації ці моделі стають дедалі потужнішими та ефективнішими, захоплюючи Інтернет завдяки своїм новаторським можливостям.
Google був одним із найбільших гравців у сфері штучного інтелекту, і його модель BERT була вперше випущена наприкінці 2018 року. З того часу компанія випустила кілька нових версій, кожна зі своїми вдосконаленнями та функціями. У 2019 році Google випустив ALBERT, «спрощену» версію BERT, яка досягла найсучасніших результатів у кількох завданнях обробки природної мови, використовуючи значно менше параметрів. У 2020 році Google випустив ELECTRA, модель, яка досягла найсучасніших результатів у кількох тестових завданнях і була ефективнішою за обчисленнями, ніж BERT. Того ж року Google випустив T5, модель, яка поєднувала навчання передачі тексту в текст із тонким налаштуванням конкретних завдань. Нещодавно Google випустив BARD, модель, яка базується на сильних сторонах BERT і включає додаткові можливості, як-от мультимодальні введення та відповіді на запитання.
Варто зазначити, що для такої великої компанії, як Google, незвично виконувати таку швидку ітерацію, оскільки бюрократія та уникнення ризику часто можуть уповільнити процес. Однак цей підхід часто виявлявся успішним для Google, як це було під час воєн браузерів між Chrome і Internet Explorer. Незважаючи на запуск Chrome у 2008 році, через ціле десятиліття після початку браузерних воєн, Chrome зміг випередити Internet Explorer як провідний браузер до 2012 року завдяки своїй стратегії швидкої ітерації та постійним оновленням.
Однак цього разу наголос на швидкості міг викликати негативну реакцію, яка була занадто дорогою з точки зору PR, навіть для Google. Багато хто вважає, що успіх OpenAI GPT-3.5, можливо, передчасно змусив Google взяти руку. Його бета-версія була далеко не ідеальною, з низкою невдач, наприклад модель надала неправильні результати на запитання про космічний телескоп Джеймса Вебба під час його дебютної реклами. Це призвело до того, що материнська компанія Google, Alphabet, втратила понад 102 мільярди доларів ринкової вартості, оскільки наступного дня акції Alphabet впали на 7,7%.
Хоча визначення пріоритету швидкості перед якістю ітерації, очевидно, може мати свої компроміси, у сфері ШІ гонка за накопиченням масових даних вимагає такого підходу. Це пов’язано з тим, що чим частіше модель виконує ітерації, тим швидше вона може отримати більше даних і відгуків для покращення своєї моделі.
Важливість швидкості ітерації в штучному інтелекті можна віднести до комплексного ефекту, який першість на ринку має на продуктивність моделі. У сфері, де обсяг даних відіграє вирішальну роль у точності моделі, перевага першого учасника створює дедалі більшу перешкоду для входу для інших конкурентів. Можливо, Google поквапився з випуском BARD, оскільки розуміє, що його моделі завжди можна покращити, але як тільки перевага першого учасника втрачається, бар’єр стає занадто великим, щоб його подолати, навіть із кращою моделлю.
Серія GPT моделей OpenAI є яскравим прикладом швидкої ітерації ШІ. Перша модель серії, GPT-1, була випущена в 2018 році і вже стала проривом в області обробки природної мови (NLP). GPT-1 був навчений на великому масиві текстових даних і міг генерувати зв’язні речення та абзаци у відповідь на підказки. Однак наступні ітерації серії GPT були ще більш вражаючими.
GPT-2, випущений у 2019 році, був навчений на ще більшому масиві текстових даних і зміг створити дуже переконливий зв’язний текст. Однак випуск GPT-2 викликав суперечки через занепокоєння щодо його потенційного зловживання для створення фейкових новин або іншого шкідливого вмісту. Незважаючи на це, GPT-2 все ж зміг зробити значні успіхи в області НЛП.
У 2020 році OpenAI випустила GPT-3, яка швидко стала найбільш обговорюваною моделлю в спільноті NLP. GPT-3 був навчений на ще більшому масиві текстових даних, ніж GPT-2, і зміг створити дуже переконливий текст, який міг виконувати різноманітні завдання, включаючи переклад, відповіді на запитання та навіть написання цілих статей. Успіх GPT-3 пояснюється його здатністю генерувати текст, який за стилем і якістю схожий на текст, написаний людиною, що робить його придатним для широкого спектру застосувань.
Однак GPT-3 не був позбавлений недоліків. Деякі користувачі повідомили, що модель дала упереджені або неточні результати, і висловили занепокоєння щодо можливості неправильного використання моделі для створення фейкових новин або іншого шкідливого вмісту. Ці занепокоєння змусили OpenAI обмежити доступ до повної версії GPT-3 і вимагати від користувачів подати заявку на доступ.
Незважаючи на ці занепокоєння, успіх GPT-3 підкреслює важливість швидкої ітерації в області ШІ. Завдяки постійному вдосконаленню та ітерації своїх моделей, OpenAI зміг випередити конкурентів і досягти значних успіхів у сфері штучного інтелекту, за чутками, вихід наступної версії (GPT-4) уже заплановано на 1 квартал 2023 року.
Оскільки штучний інтелект розвивається, ми можемо передбачити ще більш вражаючі досягнення в майбутньому. З огляду на те, що обробка даних і природної мови стає все більш важливою, буде цікаво спостерігати, як такі компанії, як Google і OpenAI, продовжуватимуть розширювати межі того, що можливо за допомогою ШІ. З кожним новим випуском зростає потенціал штучного інтелекту змінити наш світ новими захоплюючими способами.
Підсумовуючи, неможливо переоцінити, наскільки важлива швидка ітерація у сфері ШІ. Оскільки галузь продовжує розвиватися, здатність швидко збирати відгуки та вдосконалювати моделі буде критично важливою для успіху. Це гонка за те, щоб залишатися попереду, і компанії, які можуть виконувати ітерацію найшвидше та найефективніше, вийдуть першими. Однак, як показав досвід Google із випуском бета-версії BARD, важливо збалансувати співвідношення між швидкістю та якістю.
