AI21 Labs оголошує про майбутнє написання, кидаючи виклик OpenAI

Тель-авівська лабораторія AI21 Labs сьогодні запустила Wordtune Spices, інструмент доповнення до запису на основі генеративного штучного інтелекту. Вибираючи з 12 різних підказок, автори можуть генерувати низку текстових варіантів для додавання та покращення речень. Спеції також можуть запропонувати статистичні дані, щоб підсилити аргумент або підкреслити деталь.

Людина і робот пишуть разом.

Гетті

AI21 каже, що Spices призначений не для того, щоб замінити авторів, а для того, щоб функціонувати як помічник у написанні, пропонуючи додаткові повні речення, які покращують і вдосконалюють текст, який пишеться. Це може допомогти уточнити та збагатити основне повідомлення тексту, посилити та збагатити аргументи, а також додати творчі вираження, такі як жарт чи надихаюча цитата.

Скріншот Wordtune Spices.

AI21

Ізраїльський стартап стверджує, що вирішив одну з головних проблем із популярними програмами на основі великих мовних моделей (LLM), таких як ChatGPT OpenAI, які не вказують джерело. Навпаки, Spices надає своїм користувачам посилання на джерело.

«Наша місія в AI21 Labs — змінити те, як люди читають і пишуть за допомогою штучного інтелекту, зосереджуючись при цьому на розширенні можливостей — а не на видаленні чи заміні — автора», — сказав Орі Гошен, співзасновник і співгенеральний директор AI21 Labs. «Spices — це набір інструментів, який поєднує в собі найкраще, що може запропонувати як людина, так і машина, працюючи разом із письменниками як джерело натхнення для кращого, ефективнішого та переконливішого написання, водночас гарантуючи, що самі письменники мають простір і свободу для найкращого висловлення своїх думок. , думки та інформація. Майбутнє письма починається сьогодні, і ми раді поділитися ним з вами».

На додаток до Гошена, серійного підприємця, який раніше створив краудфандингову платформу CrowdX, AI21 започаткували п’ять років тому Йоав Шохам, почесний професор комп’ютерних наук Стенфордського університету, і Амнон Шашуа, співзасновник компанії з програмного забезпечення для автономного водіння Mobileye.

Те, що відрізняє AI21 Labs від інших генеративних новаторів штучного інтелекту (OpenAI, Google, Meta тощо), так це його зосередженість на точності. На відміну від поширеного підходу «що більше, то краще» (як у все більших і більших мовних моделях), AI21 Labs одержимий ідеєю «точніше — краще».

«Що більше, то краще» призвело до створення «основних моделей» (наприклад, GPT-3, DALL-E, BERT), великих мовних моделей, які навчаються (здебільшого самостійно) на великій кількості немаркованих даних, які можна використовувати для різних завдань із мінімальною тонкою настройкою та в різних доменах із додаванням даних, пов’язаних із доменом.

AI21 Labs розглядає свою власну базову модель Jurasic-1 лише як основу для обробки різноманітних завдань природної мови, покращуючи її продуктивність за допомогою додаткових компонентів, спрямованих на подолання обмежень підходу «більше — краще».

Найважливіший додатковий компонент додає «старомодний» штучний інтелект, підхід до міркування через символи або представлення знань, який домінував у цій галузі на початку. Система AI21 поєднує потужність статистичних даних про стероїди (інакше відомих як глибоке навчання) з правилами, винайденими (або дотриманими) людським інтелектом.

Як сказав Шохем в інтерв’ю з Young Sohn (див. нижче), великі мовні моделі — це «дивовижні статистичні машини, але вони нічого не розуміють». Він стверджує, що розмір має значення, але це лише необхідний компонент, а не достатній. «Розмір має велике значення, але ви повинні вбудувати міркування» у свою систему НЛП. Наприклад, додавання до мовної моделі знання про різні значення того самого слова.

Додавання міркувань до системи НЛП, заснованої на глибокому навчанні, збільшує ймовірність точного вгадування намірів користувача та надання правильної відповіді шляхом прямого переходу до правильного джерела. Таким чином AI21 Labs уникає відомих обмежень популярних великих мовних моделей — вони такі ж хороші, як і дані, на яких їх навчали. Це означає, що вони можуть бути надзвичайно застарілими, надаючи неправильні відповіді на запитання про поточні події чи погодні умови, наприклад. Система AI21 пов’язує свою мовну модель з такими об’єктами, як онлайн-калькулятори, конвертери валют, постійно оновлювані вікідані або зовнішні загальнодоступні та закриті бази даних, які містять відповідну інформацію для певного результату.

Виконання багатьох речей паралельно (наприклад, розгортання старого та нового «AI») також стосується бізнес-моделі AI21 Labs. Це дослідницька організація, яка розвиває наступне покоління систем НЛП. Це компанія, яка зосереджена на «трансформації» читання та письма, пропонуючи два продукти: Wordtune (розширення письма) та Wordtune Read (узагальнення документів). Крім того, він надає NLP як послугу через AI21 Studio, платформу, яка надає розробникам API-доступ до великої мовної моделі AI21 Labs, що дозволяє їм вбудовувати програми для запису та читання на основі штучного інтелекту, аналізувати неструктурований текст і автоматизувати повторювані завдання, пов’язані зі створенням вмісту. для розробки власних текстових програм, таких як віртуальні помічники та чат-боти.

Поточні обмеження домінуючих великих мовних моделей та їх похідних (наприклад, ChatGPT) добре відомі та визнаються їхніми розробниками (див. тут засіб відстеження помилок ChatGPT/LLM). Немає сумніву, що вони будуть вдосконалені й далі, і що ми продовжуватимемо дивуватися їхнім можливостям у 2023 році. Але AI21 Labs із своїм підходом «точніше — краще», здається, дещо випереджає гонку за розробку практичного ШІ. на які ми можемо покластися.

«Навіть у створенні зображень і тексту нам ще потрібно пройти довгий шлях. Важливо усвідомити, що таке технологія, а також обмеження», — сказав Шохем у нещодавній промові. «Справа в тому, що багато загальних речей можуть вас задовольнити. Однак, коли ви виходите за межі цього досвіду, вам потрібно буде бути точним. Якщо ви пишете клієнту електронний лист, ви не помилитеся. Ви побачите, що інструмент стане набагато точнішим».