Переконлива демонстрація Deepfake приголомшує аудиторію TED
Коли Том Грем, співзасновник і генеральний директор відеостартапу Metaphysic зі штучним інтелектом, поступово перетворив відеозображення свого обличчя на обличчя директора TED Кріса Андерсона в режимі реального часу, коли Андерсон брав у нього інтерв’ю на сцені на початку цього тижня на заході TED2023 у Ванкувері, ви могли почути, як зітхання наповнює кімнату. Аудиторія TED, яку ви не можете охарактеризувати як натовп селян-лудитів із вилами, була настільки ж стурбована наслідками цієї технології, як і вражена технічною віртуозністю програми.
Компанія Грема комерціалізує технологію глибокої підробки відео, що лежить в основі вірусної сенсації «Deep Tom Cruise» як рішення VFX для індустрії розваг. Це частина хвилі нових інструментів, які розробляються з використанням генеративного штучного інтелекту для створення фотореалістичних зображень і анімаційного відео, достатньо якісного для імітації живого виступу та бездоганного поєднання з реальною фотографією. Технологія дебютувала в «America's Got Talent», і Ґрем сказав, що вона побачить своє перше широкомасштабне використання в повнометражному фільмі, присвяченому старінню Тома Генкса та Робін Райт у майбутньому проекті Роберта Земекіса Here.
Це конкретне застосування штучного інтелекту для усунення старіння та створення переконливих цифрових виступів знаходиться на відносно доброякісному кінці континууму використання глибоких фейків, незважаючи на зрив, який він, ймовірно, спричинить у індустрії спецефектів. Інші більш зловісні сценарії, такі як створення яскраво реалістичної політичної дезінформації або неконсенсусної порнографії, зазвичай є першим, про що люди думають, коли бачать це. Це відкриває скриньку Пандори? запитав Андерсон.
«Ми не робимо нашу технологію відкритою, щоб у нас не було проблем із використанням нею без нагляду», — сказав Грем в інтерв’ю після виступу на TED. «Наші клієнти повинні підписати дуже довгий ордер, що вони мають права на зображення, які ми використовуємо для навчання. Але в довгостроковій перспективі, коли ціна цього впаде до нуля, і у вас буде мільярд людей, які займаються цим, вам точно потрібна розподілена система, де люди володітимуть і контролюватимуть свої дані».
Щоб допомогти змусити законодавство про інтелектуальну власність боротися з цими проблемами, Грем, який працював юристом до того, як приступити до індустрії технологій, подав заявку на захист авторських прав на аватар штучного інтелекту, який він сам створив за допомогою технології своєї компанії, разом із коротким поясненням, як створення відповідає критеріям захисту авторських прав. Відомство з авторських прав ще не винесло рішення.
Туманний правовий статус дипфейків — не єдина проблема, яка викликає занепокоєння. Технологія, продемонстрована Гремом на TED, здатна стерти різницю між реальним і цифровим у людському сприйнятті. Немає більше страшної долини; просто неймовірний краєвид, що простягається в усіх напрямках.
Грем стверджував, що стирання меж між реальними та синтетичними образами має певну терапевтичну користь, оскільки користувачі зможуть брати участь у розмовах із створеними комп’ютером версіями своїх молодих людей або померлих близьких, щоб примиритися з горем. «Розум інтегрує речі, і це робить їх більш реалістичними. Виклик Zoom — погана заміна реального життя, але якщо ви можете зробити це Zoom набагато ближчим до реального життя [через захоплюючі, гіперреалістичні зображення, створені штучним інтелектом], ви зможете перетворити це в реальне життя у своїй свідомості. Пам’ять, яку ви про це сформуєте, зробить це справжнім».
Більшість слухачів TED, з якими я спілкувався, виявили, що ця передбачувана користь майже така ж тривожна, як і очевидні недоліки. Грем сказав, що реакція залежить переважно від поколінь, і що молоді люди, які постійно маринуються в цифрових медіа та культурі, не надають пріоритету розрізненню реального та цифрового досвіду. «Багато з них проводять значну частину свого життя у відеоіграх, і ці місця для них більш реальні, ніж фізичний світ».
Іншим суперечливим аспектом виступу Грема перед надзвичайно соціально налаштованим натовпом TED була його позиція про те, що дипфейки неминуче стануть частиною інформаційної екосистеми. «Це відбувається, і це відбувається швидко», — сказав він на сцені, мабуть, припускаючи, що нам просто потрібно сприяти інноваціям заради інновацій, незалежно від юридичних, етичних і філософських сумнівів.
Коли ми обговорювали це пізніше, Грехем був збентежений таким тлумаченням. «Я за замовчуванням такий: якщо ми нічого не можемо зробити, щоб зупинити це, то ми абсолютно повинні це регулювати. Ця ідея, що «Ну, це все одно станеться, тому ми просто не повинні нічого робити», виглядає як унікальна американська відповідь», – сказав Грем, який є австралійцем.
«У самому серці Інтернету лежить Розділ 230, — продовжив він. «Це призначено для того, щоб запобігти масовому зловживанню матеріалами, захищеними авторським правом інших людей, через поширення соціальних мереж і контенту, створеного користувачами. У цій парадигмі, можливо, було б краще, якби ви могли просто переглядати будь-що, будь-коли, у будь-якому місці і не було модерації. Звичайно, є люди, які можуть сперечатися на цю користь, але це точно не краще для суспільства. Я дуже підтримую регулювання, у самому серці того, ким я є. Я інституційна людина».
Незважаючи на те, що Грем може вітати регулювання, незрозуміло, чи є наші інституції гнучкими, чуйними чи достатньо компетентними, щоб впоратися з тим, що наближається, оскільки подібні зображення штучного інтелекту з кожним часом стають кращими, швидшими та дешевшими. Навіть якщо це так, руйнування бізнесу, культури та суспільства, ймовірно, буде глибшим, ніж ми можемо зараз уявити. Декілька доповідачів пізніше в програмі TED, зокрема вчений-когнітивіст Гері Маркус і дослідник Еліезер Юдковскі, виступили за негайні міжнародні ініціативи щодо блокування більш занепокоєних застосувань штучного інтелекту, включно з глибокими фейками, доки ми не зможемо отримати більше ясності та прозорості в системах.
Тим часом Грем сказав, що попит на можливості Metaphysic стрімко зростає в Голлівуді, і компанія, яка була заснована в 2021 році, очікує, що до кінця року зросте до майже 200 співробітників по всьому світу.
