IBM і великі виклики ШІ та квантових обчислень

Алессандро Куріоні

Алессандро Куріоні

AI міцно повернувся в новини

ChatGPT OpenAI і системи штучного інтелекту для створення зображень, як-от MidJourney і Stable Diffusion, спонукали набагато більше людей зацікавитися вдосконаленим штучним інтелектом і заговорити про нього. Що добре. Це буде неприємно, якщо трансформаційні зміни, які відбудуться в наступні два-три десятиліття, застануть більшість із нас зненацька.

Одна з компаній, яка була піонером передового штучного інтелекту довше, ніж інші, це IBM. Один із найвищих керівників IBM, Алессандро Куріоні, приєднався до London Futurists Podcast, щоб обговорити поточні проекти IBM у сфері штучного інтелекту, квантових обчислень та суміжних областях. Алессандро працює в IBM 25 років. Він є співробітником IBM, директором IBM Research і віце-президентом у Європі та Африці.

Великі виклики IBM

IBM винаходила майбутнє обчислювальної техніки протягом 70 років. Вона влаштувала серію вражаючих грандіозних випробувань, як-от Deep Blue переміг Гарі Каспарова в шахи в 1996 році, а Watson переміг Кена Дженнінгса в телевізійній вікторині Jeopardy в 2011 році. Зовсім недавно, у 2018 році, компанія розробила машину, здатну тримати себе в руках. у дебатах із чемпіоном світу з дебатів.

Перші з цих машин були засновані на правилах, а пізніші використовують глибоке навчання, яке створює моделі, навчені на великих обсягах даних. Зараз відбувається інша зміна парадигми, з появою великих мовних моделей (LLM), або базових моделей, які використовують техніку під назвою самоконтроль для навчання. Система візьме величезну кількість речень – сотні мільярдів – із мережі, випадковим чином маскує одне слово з кожного речення та намагатиметься вгадати, що це за слово. З часом система створює модель того, які слова входять у речення. Ця автоматизація навчального процесу є значним прогресом і стала можливою завдяки величезним обсягам даних і обчислювальних потужностей, доступних сьогодні.

Виявляється, ця методологія не обмежується текстом. Його можна використовувати для будь-яких типів структурованих даних, включаючи зображення, відео чи комп’ютерний код. Або потоки даних, створені промисловими процесами. Або мовою науки: молекули, перекладені на символи.

Вужчий фокус

IBM створює великі мовні моделі, але для конкретних програм, а не для загального використання, як-от ChatGPT. Наприклад, це створення систем для спеціалізації в органічній хімії та бізнесі. Слабкість систем загального призначення полягає в тому, що вони неглибокі. Вони можуть відповісти на більшість запитань на високому рівні, але якщо заглибитися глибше, вони загубиться. Більш спеціалізовані машини можуть працювати глибше і менш крихкі. Спеціалізація часто означає, що ви можете отримати кращу якість даних і легше усунути упередження.

Однією з причин, чому ChatGPT працює краще, ніж GPT-3, є навчання з підкріпленням із зворотним зв’язком людини (RLHF). OpenAI, яка створила ці системи, найняла велику кількість людей, щоб коментувати результати системи та відповідним чином позначати упереджені або образливі уривки. Це спонукає до дотепи, що штучний інтелект означає не штучний інтелект, а доступних індійців, але люди використовуються під час навчання, а не під час роботи.

IBM сподівається довести, що вона може розробити велику модель у певному домені, яку потім можна навчити на власних даних клієнтських організацій у цьому домені. Це було б суттєвим покращенням з точки зору вартості та стійкості порівняно зі старим підходом, який передбачав розробку нової моделі для кожного застосування.

Більш ефективні конструкції мікросхем

Ще одна сфера, в якій IBM прагне підвищити ефективність і сталість штучного інтелекту та обчислень, — це розробка чіпів. Великі мовні моделі наближаються до масштабів обчислень, які відбуваються в людському мозку, але вони використовують ту саму енергію, що й маленьке місто, тоді як мозок використовує ту ж енергію, що й лампочка.

Куріоні каже, що IBM робить три кроки, щоб зменшити споживання електроенергії передовими системами ШІ. Першим кроком є нейроморфні чіпи, такі як True North і Loihi від IBM, які більше моделюються на людських нейронах, ніж традиційні конструкції чіпів. Їхні розрахунки менш точні й більш аналогічні.

Другий крок — це мемристори, де зберігання процесів і пам’яті відбувається на одному чіпі, що зменшує енергію, витрачену на отримання та повторне збереження даних між обчисленнями.

Третій крок — нейронні мережі, які передають інформацію лише тоді, коли потрібна певна функція, тоді як у традиційних чіпах кожен нейрон передає інформацію весь час.

Разом ці три кроки можуть забезпечити підвищення енергоефективності на два-чотири порядки.

Прорив у квантових обчисленнях

Можливо, зараз IBM не вважається світовим лідером у галузі штучного інтелекту, але галузь, де вона, як правило, займає перше місце, це квантові обчислення, поряд із Google і Microsoft. Він щойно оголосив про прорив у квантовій криптографії, який дозволить даним, що передаються сьогодні, залишатися в безпеці, навіть якщо будуть створені квантові комп’ютери, здатні зламати сучасні засоби шифрування. Квантові комп’ютери, що працюють за алгоритмом Шора, можуть ефективно розкладати числа на множники, а коли вони масштабуються, вони зможуть розкладати на множники дуже великі числа, чого класичні машини не можуть зробити за розумний проміжок часу.

Те, що IBM і низка академічних партнерів зробили, це розробили новий тип шифрування під назвою квантово-безпечне крипто. Він заснований на високорозмірній ґратчастій криптографії, і вважається, що його неможливо зламати квантовими комп’ютерами. Протягом останнього десятиліття була проведена велика дослідницька програма для оцінки багатьох потенційних типів квантово безпечної криптографії, і в липні минулого року чотири алгоритми стали найпотужнішими. Три з цих чотирьох були розроблені в лабораторії Куріоні в Цюріху, і переможець щойно обраний.

Наступним кроком є перенесення даних зі старих форм шифрування на цю нову. Це завдання стає актуальним. У грудні 2022 року стався страх, коли команда китайських дослідників оголосила, що вже розробила, як зламати сучасні технології шифрування. Їхня стаття отримала прізвисько «квантовий апокаліпсис». Швидко зрозуміли, що вони ще не досягли успіху, але невдовзі хтось цього досягне – можливо, через два-три роки. Уряд США постановив, що всі його агентства повинні бути квантово безпечними до 2025 року, і інші уряди та компанії роблять те саме. Можливо, прорив IBM стався саме вчасно.

Подкаст лондонських футуристів

Подкаст лондонських футуристів