¿Está la IA erosionando nuestra capacidad de pensar?
¿Está la IA erosionando nuestra capacidad de pensar?
Parásito 2.0
A principios de este año, OpenAI lanzó ChatGPT, que mostró la capacidad de la IA para escribir texto, contar historias y codificar en un grado bastante decente.
Marca el último desarrollo en una ola de tecnología de IA generativa, que incluye Stable Diffusion y DALL-E2, que han demostrado ser capaces de generar imágenes increíblemente sofisticadas. Si bien estas tecnologías han ganado una cantidad considerable de atención, AI ha estado seleccionando lo que vemos desde que Google implementó por primera vez su algoritmo PageRank para proporcionar un grado de orden a Internet.
La noción de curación de IA ha ganado notoriedad en los últimos años a medida que más y más de nosotros hemos accedido a la información a través de las redes sociales, y ninguna plataforma evita las acusaciones de ayudar a difundir información errónea de alguna manera o forma. De hecho, el Reino Unido tiene como objetivo hacer que los ejecutivos de las redes sociales sean penalmente responsables si incumplen su deber de mantener a los niños seguros en línea.
curaduría de arte
'The Algorithmic Pedestal' ofreció una versión más tradicional de la curación impulsada por IA. El proyecto, que fue creado por la investigadora de la Universidad de Oxford, Laura Herman, vio al algoritmo de Instagram enfrentándose a la artista Fabienne Hess para curar arte tomado de la colección de acceso abierto del Museo Metropolitano de Arte.
La exposición, que tuvo lugar en la J/M Gallery de Londres, mostró la selección de Hess junto con la del algoritmo, que seleccionó una selección de imágenes de la colección para mostrarlas en la página de inicio del perfil configurado por los investigadores.
Después de hablar con Hess, explicó que su selección fue impulsada por una sensación de pérdida, con cada obra de arte diseñada para reflejar eso de alguna manera. Su colección, Dataset of Loss, se ha formado a lo largo de varios años y representa la resistencia a la forma algorítmica de ver que ha llegado a dominar la sociedad moderna. La naturaleza de "caja negra" del algoritmo de Instagram significa que no se pueden inferir tales intenciones a partir de sus selecciones.
"La ausencia de un patrón claro o una prioridad en las imágenes seleccionadas mediante algoritmos resalta la naturaleza preocupante de los algoritmos de "caja negra": dada la falta total de transparencia, no sabemos por qué se seleccionan ciertas imágenes", explica Herman. "Estas selecciones algorítmicas están decidiendo lo que la gente ve, determinando a qué están expuestos e impulsando su realidad cultural, de lo que la mayoría de la gente no se da cuenta".
Artes Oscuras
El acto de curación es inherentemente uno de elegir una pequeña parte de una colección para exhibirla, sin mostrar la mayor parte de lo que los museos y galerías poseen. Ese proceso de curación ha recibido algunas críticas recientemente. Por ejemplo, se dijo que la exposición Medicine Man de la Wellcome Collection “perpetúa una versión de la historia médica que se basa en teorías racistas, sexistas y capaces”.
La exhibición, que presentaba una variedad de artículos médicos, incluidas piernas postizas y el cepillo de dientes de Napoleón, se cerró poco después de que surgieron las críticas. Otros museos de la capital también han sido criticados por el supuesto robo de artefactos y exhibiciones de otros países. El Museo Británico, por ejemplo, está en conversaciones aparentemente perpetuas sobre el regreso (o no) de las esculturas del Partenón.
Estas controversias han significado que muchas exhibiciones ahora estén acompañadas de descripciones dolorosas que pretenden demostrar que el pasado fue otro tiempo con una moral y normas sociales diferentes. Por ejemplo, Tate Britain asignó una famosa pintura de Hogarth con una etiqueta que reflexionaba sobre si las patas de la silla en la que Hogarth estaba sentado podrían "reemplazar a todas esas personas negras y marrones sin nombre que permiten a la sociedad apoyar su vigorosa creatividad".
pensando por nosotros
Por lo general, el trabajo de los museos y las galerías no es decirte qué pensar, sino hacerte pensar y evaluar lo que tienes delante. En otros dominios, la aplicación de la IA ha reducido nuestra capacidad para hacer precisamente esto. Los mapas, por ejemplo, han eliminado en gran medida nuestra necesidad de usar nuestro propio ingenio para navegar y proporcionarnos instrucciones paso a paso. Mientras que los taxistas de Londres generalmente necesitaban tomar el examen de "Conocimiento", que es enormemente desafiante, un conductor moderno de Uber puede arreglárselas con el navegador satelital en sus teléfonos.
Hermans cree que con el auge de la creación de contenido impulsado por IA, inevitablemente requerirá una curación impulsada por IA para permitirnos darle sentido a todo. Si esto provoca una reacción violenta contra las tecnologías que cada vez más piensan por nosotros o si estamos felices de subcontratar nuestras facultades críticas a las máquinas es algo que aún está por verse.
"Incluso si no toman la medida drástica de evitar tales feeds, pueden abordarlos de manera más crítica y buscar otros espacios para encontrar piezas de manera más orgánica", dice Hermans. "Después de todo, el arte históricamente se ha tratado de la novedad y la originalidad; los modelos estadísticos basados en la coincidencia de patrones y la similitud no necesariamente se adaptan a este campo".
¿Amo o esclavo?
La naturaleza de nuestra relación con la IA es algo que Tomas Chamorro-Premuzic, de UCL, reflexiona en su libro reciente I, Human. Argumenta que, en muchos casos, no son las cosas mundanas las que se están automatizando, sino nuestros mismos procesos de pensamiento. No estamos siendo liberados para pensar más, ya que la tecnología lo está haciendo por nosotros.
“No hay mucha evidencia de que el auge de la IA se haya aprovechado de alguna manera para elevar nuestra curiosidad o desarrollo intelectual, o que nos estemos volviendo más sabios”, explica. “Nuestras vidas no solo parecen predichas, sino también dictadas por la IA”.
Tiene mucho sentido desde una perspectiva tecnológica que gran parte de nuestras vidas estén automatizadas, pero tiene mucho menos sentido desde nuestra propia perspectiva. Gran parte de nuestras vidas parecen estar optimizadas para y por la tecnología, y Chamorro-Premuzic sugiere que estamos lejos de ser liberados por la automatización y, en cambio, le entregamos nuestra humanidad.
“Nuestra propia identidad y existencia se han colapsado en las categorías que usan las máquinas para comprender y predecir nuestro comportamiento, todo nuestro carácter se ha reducido a las cosas que la IA predice sobre nosotros”, continúa.
En ninguna parte es más evidente esta demostración de humanidad que en el arte que producimos. Si la tecnología está tanto produciendo como curando arte en nuestro nombre, entonces eso parece no tener sentido. "Robot" deriva de la palabra checa para esclavo, pero mientras que los protagonistas de la famosa obra de Capek imaginaron que sus creaciones de robots les servían, en realidad ocurrió lo contrario.
Si bien no estamos en medio de una batalla al estilo Terminator por la humanidad, debemos esforzarnos por asegurarnos de que, a medida que se desarrolla la IA, realmente cumpla con su promesa de liberarnos del trabajo y liberarnos para hacer esas cosas que hacen nosotros humanos. Al igual que con la creación de Capek, en este momento, corre el riesgo muy real de hacer exactamente lo contrario.
