Проблематична природа генеративного ШІ

Ден Турчін є головним виконавчим директором PeopleReign, системи інтелекту для обслуговування співробітників ІТ та HR. Перший раз, коли я скористався Waze у 2007 році, я ніби побачив майбутнє. Соціальний трафік поєднав навігацію з машинним навчанням із контентом, створеним користувачами, щоб створити магію. Неможливо було пояснити все, що знав Waze. Також було неможливо зрозуміти, куди приведе ШІ менш ніж за два десятиліття. Те, що ми зараз переживаємо з генеративним штучним інтелектом, — це майбутнє, яке важко зрозуміти, окрім усвідомлення того, що ми повинні поставити під сумнів усе, що ми думали, що знаємо про те, як влаштований світ. Я думав про те, що означає бути людиною в епоху великих мовних моделей. Нижче наведено думки про те, де ми є і куди ми прямуємо.

Велике пограбування інтелектуальної власності

Був жовтень 1999 року, коли я виявив 30-річну контрабанду записів Джеррі Гарсії. Це було надзвичайно просто. За кілька тижнів піратських пісень, які мені подобалися, я зрозумів, що не маю нічого, що завантажував. Наскільки весело було збирати безкоштовні колекції моїх улюблених пісень, весь процес викликав у мене відчуття бруду. Я не краду в магазинах і не грабую банки. Я не шахраю в блекджеку та не викрадаю літаки. Мені здавалося неправильним, що я міг красти музику, тому що це було зручно, без наслідків, і всі інші це робили. Історія повторюється. ChatGPT збирає чужий матеріал, об’єднує його та обслуговує похідні версії за допомогою великих мовних моделей (LLM), щоб перетворити текстові підказки на нову роботу. Ми тільки починаємо спостерігати, як власники авторських прав заперечують проти навчання магістрів права на їх роботі. Незабаром послуги штучного інтелекту або вимагатимуть платної підписки, або підтримуватимуться рекламою. Постачальникам генеративного штучного інтелекту потрібно буде опублікувати бібліографію з посиланням на авторів. Технологія, що лежить в основі ChatGPT, феноменальна, але навіть інновації підкоряються правилам бізнесу та принципам етики.

Генеративний штучний інтелект призводить до того, що якість контенту повертається до середнього рівня

Пройшло менше ніж 12 місяців у генераційній ейфорії штучного інтелекту, і вже кожне зображення в Інтернеті виглядає як стандартна фотоверсія космонавтів, які катаються на поні в стилі Баугауз. Коли всі використовують однакові інструменти та текстові підказки, а штучному інтелекту пропонують створити текст або зображення з того самого набору м’якого вмісту, взятого з версії загальнодоступного Інтернету 2021 року, усе, що ми споживаємо, виглядає… однаково. Текст має таку ж монотонну індивідуальність, позбавлену сміливих ідей. Зображення використовують однакову палітру кольорів і знайомі обличчя. Творці слабкого вмісту тепер можуть виконувати посередню роботу. Сильні творці контенту тепер можуть виконувати посередню роботу швидше. Це економіка творців, еквівалент комунізму — у всіх все добре, і ніхто не винятковий. Це цифрова економ-версія Ford Model T — будь-який колір, якщо він чорний. Будьте готові до швидкого повернення до середнього. Поведінка великих мовних моделей, таких як GPT, що самонавчається, лише прискорить це, оскільки вони навчаться на створеному ними м’якому вмісті. Уявіть LLM як системи, які надзвичайно добре спроектовані для відповідності зразкам у масштабі. Коли їм буде надана велика кількість створеного ними контенту, обсяг того, що вони створюватимуть, продовжуватиме звужуватися. Подумайте про наслідки цього, перш ніж покладатися на генеративний ШІ для впливу на рішення, які слід залишити людям. Наприклад, ми повинні негайно обмежити використання генеративного штучного інтелекту, коли вирішуємо, кого ув’язнити, кого отримати кредит, кого прийняти на роботу чи хто отримати медичне лікування. У наступних публікаціях я досліджуватиму нову форму відповідального штучного інтелекту, тему, яку потрібно обговорювати відкрито й часто.

Унікальні ідеї стануть помітнішими

Наступне десятиліття створить унікальні можливості для людей із великими ідеями впливати на світ. Не піддавайтеся спокусі приписувати собі клаптеві комбінації робіт інших людей. Якщо ви чудові, доведіть це, формулюючи унікальні ідеї унікальними способами. Ніколи раніше не було кращої можливості для амбітних мислителів досягти величі. Коли інші створюють і споживають синтетично згенерований контент, як-от літаючі дрони у постійному зависанні, є можливість для тих, хто не працює, літати вище, далі та швидше. Наприклад, учні, які маніпулюють системою, змушуючи ChatGPT писати есе, втрачають можливість вчитися, демонструють небезпечно погане розуміння етики та доводять, що вони не кращі за інших. Студенти, які навчаються самостійно, формулюють оригінальні ідеї та поділяють пристрасть до предмету, перевершуватимуть машини з усе більшим відривом.

Шлях вперед

Майбутнє людей – це поєднання того, що машини та люди роблять найкраще. Те, що можна передбачити або спростувати, слід залишити машинам, а те, що потребує оцінки чи раціонального мислення, залишити нам. Generative AI — це не милиця, не панацея і не загроза для людей. Ми єдиний вид, здатний синтезувати ідеї, формувати думки та приймати рішення на основі етичних принципів. Давайте використаємо цей момент в історії, щоб прийняти майбутнє, інвестуючи в нашу людяність.