Проблемная природа генеративного ИИ

Дэн Турчин (Dan Turchin) — генеральный директор PeopleReign, системы аналитики для ИТ- и кадровой службы. В первый раз, когда я использовал Waze в 2007 году, я словно увидел будущее. Социальный трафик объединил навигацию с машинным обучением и пользовательским контентом, чтобы создать магию. Было невозможно объяснить все, что знал Waze. Также было невозможно понять, куда приведет ИИ менее чем за два десятилетия. То, что мы переживаем сейчас с генеративным ИИ, — это будущее, которое трудно понять, кроме как через осознание того, что мы должны подвергать сомнению все, что, как нам казалось, мы знали о том, как устроен мир. Я думал о том, что значит быть человеком в эпоху больших языковых моделей. Ниже приведены мысли о том, где мы находимся и куда движемся.

Крупное ограбление интеллектуальной собственности

Это было в октябре 1999 года, когда я обнаружил 30-летние контрафактные записи Джерри Гарсии. Это было соблазнительно просто. За несколько недель пиратства песен, которые я любил, я понял, что ничего из того, что я скачивал, у меня не было. Как бы ни было весело собирать бесплатные коллекции моих любимых песен, весь этот процесс заставлял меня чувствовать себя грязным. Я не ворую в магазинах и не граблю банки. Я не жульничаю в блэкджеке и не угоняю самолеты. Мне казалось неправильным, что я могу красть музыку, потому что это было удобно, без последствий, и все остальные этим занимались. История повторяется. ChatGPT собирает материалы других людей, смешивает их вместе и предоставляет производные версии с использованием больших языковых моделей (LLM), чтобы превратить текстовые подсказки в новую работу. Мы только начинаем видеть, что владельцы авторских прав возражают против того, чтобы LLM обучались их работе. Вскоре услуги ИИ будут либо требовать платной подписки, либо поддерживаться рекламой. Поставщики генеративного ИИ должны будут опубликовать библиографию с указанием содержания его первоначальных авторов. Технология, лежащая в основе ChatGPT, феноменальна, но даже инновации подчиняются правилам бизнеса и принципам этики.

Генеративный ИИ заставляет качество контента возвращаться к среднему

Мы находимся в эйфории от генеративного ИИ меньше 12 месяцев, и уже каждое изображение в сети выглядит как версия стоковой фотографии астронавтов верхом на пони в стиле Баухаус. Когда все используют одни и те же инструменты и текстовые подсказки, а ИИ просят генерировать текст или изображения из одного и того же набора пресного контента, извлеченного из версии общедоступного Интернета 2021 года, все, что мы потребляем, в конечном итоге выглядит… одинаково. Текст имеет такой же монотонный характер, лишенный смелых идей. Изображения используют ту же палитру цветов и знакомые лица. Слабые создатели контента теперь могут выполнять посредственную работу. Сильные создатели контента теперь могут быстрее выполнять посредственную работу. Это эквивалент коммунизма в экономике созидателя: у всех все хорошо, и никто не является исключением. Это цифровая экономическая версия Ford Model T — любой цвет, который вы хотите, если он черный. Будьте готовы к быстрому возврату к среднему значению. Самообучающееся поведение больших языковых моделей, таких как GPT, только ускорит это, поскольку они учатся на созданном ими пресном содержании. Думайте о LLM как о системах, которые исключительно хорошо спроектированы для сопоставления с образцом в любом масштабе. При подаче большого количества контента, который они создали, объем того, что они будут генерировать, будет продолжать сужаться. Подумайте о последствиях этого, прежде чем полагаться на генеративный ИИ, чтобы влиять на решения, которые должны быть оставлены на усмотрение людей. Например, мы должны немедленно ограничить использование генеративного ИИ при принятии решения о том, кто будет заключен в тюрьму, кто получит кредит, кто будет принят на работу или кто получит лечение. В будущих постах я рассмотрю новую форму ответственного ИИ — тему, которую необходимо обсуждать открыто и часто.

Уникальные идеи будут выделяться больше

Грядущее десятилетие создаст уникальные возможности для людей с великими идеями, чтобы повлиять на мир. Не поддавайтесь искушению приписывать себе лоскутные комбинации чужих работ. Если вы великий, докажите это, формулируя уникальные идеи уникальными способами. Никогда прежде у амбициозных мыслителей не было лучшей возможности достичь величия. Когда другие создают и потребляют искусственно сгенерированный контент, например летающие дроны в состоянии постоянного зависания, у не-дронов появляется возможность летать выше, дальше и быстрее. Например, студенты, манипулирующие системой, заставляя ChatGPT писать эссе, упускают возможность учиться, демонстрируют опасно плохое понимание этики и доказывают, что они не лучше остальных. Учащиеся, которые учатся самостоятельно, формулируют оригинальные идеи и разделяют страсть к предмету, будут превосходить машины со все большим отрывом.

Путь вперед

Будущее людей — это слияние того, что машины и люди делают лучше всего. То, что можно предсказать или воспроизвести, должно быть предоставлено машинам, но то, что требует суждения или рационального мышления, должно быть предоставлено нам. Генеративный ИИ — это не костыль, не панацея и не угроза для человека. Мы единственный вид, способный синтезировать идеи, формировать мнения и принимать решения, основанные на этических принципах. Давайте воспользуемся этим моментом в истории, чтобы принять будущее, инвестируя в нашу человечность.