Подрывает ли ИИ нашу способность мыслить?
Подрывает ли ИИ нашу способность мыслить?
Паразит 2.0
Ранее в этом году OpenAI выпустила ChatGPT, которая в довольно приличной степени продемонстрировала способность ИИ писать текст, рассказывать истории и кодировать.
Это знаменует собой последнюю разработку в волне технологий генеративного искусственного интеллекта, включая Stable Diffusion и DALL-E2, которые доказали свою способность создавать невероятно сложные изображения. В то время как эти технологии привлекли значительное внимание, ИИ курирует то, что мы видим, с тех пор, как Google впервые развернул свой алгоритм PageRank, чтобы обеспечить определенную степень порядка в Интернете.
Идея курирования ИИ приобрела известность в последние годы, поскольку все больше и больше из нас получают доступ к информации через социальные сети, и ни одна платформа не избегает обвинений в том, что она помогает распространять дезинформацию тем или иным образом, в той или иной форме. Действительно, Великобритания стремится привлечь руководителей социальных сетей к уголовной ответственности, если они нарушат свои обязанности по обеспечению безопасности детей в Интернете.
Кураторское искусство
«Алгоритмический пьедестал» предлагал более традиционный подход к кураторству, управляемому ИИ. В рамках проекта, созданного исследователем из Оксфордского университета Лаурой Херман, алгоритм Instagram противостоял художнице Фабьен Хесс, чтобы курировать произведения искусства, взятые из коллекции Метрополитен-музея с открытым доступом.
На выставке, которая проходила в лондонской галерее J/M, выбор Гесса был показан рядом с выбором алгоритма, который отбирал изображения из коллекции для отображения на главной странице профиля, созданного исследователями.
После разговора с Гессом она объяснила, что ее выбор был продиктован чувством потери, и каждое произведение искусства призвано каким-то образом отражать это. Ее коллекция Dataset of Loss формировалась в течение нескольких лет и представляет собой сопротивление алгоритмическому способу видения, который стал доминировать в современном обществе. Природа «черного ящика» алгоритма Instagram означает, что никакие подобные намерения не могут быть выведены из его выбора.
«Отсутствие четкого шаблона или приоритета в алгоритмически отобранных изображениях подчеркивает тревожный характер алгоритмов «черного ящика»: учитывая полное отсутствие прозрачности, мы не знаем, почему выбираются определенные изображения», — объясняет Герман. «Эти алгоритмические выборки решают, что люди видят, определяют, чему они подвергаются, и управляют их культурной реальностью, чего большинство людей не осознают».
Темные искусства
Акт курирования по своей сути заключается в выборе небольшой части коллекции для демонстрации, при этом большая часть того, что есть в музеях и галереях, не выставлена на обозрение. Недавно этот процесс курирования подвергся некоторой критике. Например, было сказано, что выставка «Знахарь» из коллекции Wellcome Collection «увековечивает версию истории медицины, основанную на расистских, сексистских и эйблистских теориях».
Выставка, на которой был представлен ряд медицинских предметов, в том числе вставные ноги и зубная щетка Наполеона, была закрыта вскоре после появления критики. Другие музеи столицы также подверглись критике за предполагаемую кражу артефактов и экспонатов из других стран. Британский музей, например, ведет бесконечные переговоры о возвращении (или о возвращении) скульптур Парфенона.
Эти противоречия привели к тому, что многие экспонаты теперь сопровождаются печальными описаниями, призванными продемонстрировать, что прошлое было другим временем с другой моралью и социальными нормами. Например, Тейт Британия, как известно, присвоила картине Хогарта этикетку, которая размышляла о том, могут ли ножки стула, на котором сидел Хогарт, «заменять всех этих безымянных чернокожих и коричневых людей, поддерживающих общество, которое поддерживает его энергичное творчество».
Думая за нас
Как правило, работа музеев и галерей не в том, чтобы указывать вам, что думать, а в том, чтобы заставить вас думать и оценивать то, что находится перед вами. В других областях применение ИИ уменьшило наши возможности сделать именно это. Карты, например, в значительной степени избавили нас от необходимости использовать собственное мышление для навигации и предоставили нам пошаговые инструкции. В то время как лондонским таксистам обычно нужно было сдавать чрезвычайно сложный экзамен «Знания», современный водитель Uber может обойтись спутниковой навигацией на своих телефонах.
Херманс считает, что с ростом количества создания контента с помощью ИИ неизбежно потребуется курирование с помощью ИИ, чтобы мы могли понять все это. Вызовет ли это негативную реакцию на технологии, которые все чаще думают за нас, или мы будем рады передать наши критически важные способности машинам, это то, что еще предстоит выяснить.
«Даже если они не предпримут решительный шаг, чтобы избежать таких потоков, они могут подойти к ним более критично и искать другие места, чтобы находить материалы более органично», — говорит Херманс. «Искусство, в конце концов, исторически было связано с новизной и оригинальностью; статистические модели, основанные на сопоставлении с образцом и сходстве, не обязательно подходят для этой области».
Господин или раб?
Природа наших отношений с ИИ — это то, над чем размышляет Томас Чаморро-Премузик из Калифорнийского университета в своей недавней книге «Я, человек». Он утверждает, что во многих случаях автоматизируются не обыденные вещи, а сами наши мыслительные процессы. Мы не освобождаемся, чтобы больше думать, поскольку технологии делают это за нас.
«Существует не так много свидетельств того, что распространение ИИ каким-то образом использовалось для повышения нашего любопытства или интеллектуального развития или что мы становимся мудрее», — объясняет он. «Наша жизнь кажется не просто предсказанной, но и продиктованной искусственным интеллектом».
С технологической точки зрения автоматизация большей части нашей жизни вполне логична, но с нашей собственной точки зрения это имеет гораздо меньше смысла. Кажется, что большая часть нашей жизни оптимизирована для технологий и с их помощью, и Чаморро-Премузик предполагает, что мы далеки от того, чтобы стать свободными от автоматизации, а вместо этого подчинили ей нашу человечность.
«Сама наша идентичность и существование были сведены к категориям, которые машины используют для понимания и предсказания нашего поведения, весь наш характер сведен к тому, что ИИ предсказывает о нас», — продолжает он.
Нигде эта демонстрация человечности не проявляется так очевидно, как в искусстве, которое мы производим. Если технология одновременно производит и курирует искусство от нашего имени, то это, похоже, не соответствует самой сути. «Робот» происходит от чешского слова, обозначающего раба, но в то время как главные герои знаменитой пьесы Чапека представляли себе своих роботов, служащих им, на самом деле произошло обратное.
Хотя мы не находимся в эпицентре какой-то терминаторской битвы за человечество, мы, тем не менее, должны стремиться к тому, чтобы по мере развития ИИ он действительно выполнял свое обещание освободить нас от тяжелой работы и дать нам возможность делать то, что заставляет нас мы люди. Как и в случае с творением Чапека, в настоящий момент он рискует сделать прямо противоположное.
