El punto de inflexión de la IA: de las fuerzas oscuras a la liberación creativa, ¿qué nos depara el futuro?

La IA generativa está disfrutando de un momento continuo con el lanzamiento de ChatGPT-4 este mes y su impacto potencial en, bueno, todo. Su superficie solo ha sido rayada levemente con mucho más por seguir de los chatbots virtuales que actualmente capturan nuestra imaginación.

Cuando se trata de IA, varias preguntas surgen rápidamente, como los trabajos y las personas que los realizan que podrían ser reemplazados, los problemas de propiedad intelectual y derechos de autor en juego, los modelos de ética y gobernanza (o la falta de ellos) en el lugar y quién o qué decide con qué profundidad. incrustados se convertirán en nuestra vida cotidiana.

El potencial de la IA aún está en su infancia con la capacidad de transformar los principales sistemas críticos, como la atención médica, la agricultura y la investigación científica, de las maneras más sorprendentes. Así como en formas que se sienten perturbadoras y devaluantes a través de una combinación de consecuencias no deseadas o de encontrar actores ingenuos o malos en posiciones de poder para su desarrollo.

Ya sea que se encuentre entre el 35 % de las empresas de EE. UU. que, según IBM, ya usan directamente la IA o el 42 % que la está explorando (o incluso el 23 % restante que mira hacia otro lado por ahora), es una realidad del futuro cercano.

Con esto en mente, me senté para un intercambio con Gilles Babinet, vicepresidente del Consejo Nacional Digital de Francia que representa a France for Digital en la UE. Su función es explorar el potencial, el impacto y los límites de las nuevas tecnologías, y evaluar las oportunidades y amenazas que se avecinan. Aquí exploramos las posibilidades y las trampas de lo que podría estar por venir.

Comencemos con la IA y pensemos en sus aplicaciones, como ChatGPT. ¿En qué etapa de su desarrollo diría que estamos hoy?

GB: ChatGPT es el momento 'ajá' para los países occidentales, como lo fue para el mercado chino y asiático cuando millones de personas vieron cómo el programa de computadora AlphaGo vencía al mejor jugador de Go, Lee Sedol, en un torneo en Corea del Sur en 2016. Fue un shock para el mercado y desencadenó una carrera de IA.

Pero los modelos de lenguaje grande (LLM) y los modelos de refuerzo, que son la base de ChatGPT, no son recientes. LLM se utilizó en los años 90, mientras que el aprendizaje por refuerzo encuentra sus raíces en los años 80. El principal avance ha sido llevarlos a escala y cambiar la comprensión de las personas para que no tengan dudas sobre cuán poderosa puede ser la IA.

¿Cuál es su opinión sobre la aceleración de la IA fuera del ámbito de la ciencia, la investigación y la academia, y hacia el mundo de los negocios comerciales bien financiados, de alta velocidad, con muchos medios e interés de los consumidores?

GB: Durante años, incluso décadas, estas tecnologías fueron demasiado complejas para ser ampliamente utilizadas. Ahora, se están volviendo más simples, utilizables y listos para usar y, por lo tanto, es mucho más probable que se prueben e implementen a una escala mucho mayor.

Pero eso conlleva enormes riesgos, desde la desinformación y las estafas financieras (consulte 'Estafa de amor de IA' o 'Fraude de CEO de IA') hasta la confianza mutua e incluso la democracia misma puede estar en riesgo con esta nueva tecnología.

Como han coescrito Henry Kissinger y Eric Schmidt, esta tecnología puede ser el problema más desafiante que nuestro mundo moderno jamás haya enfrentado.

Mi principal preocupación se refiere a la piratería de nuestro libre albedrío, la mercantilización de nuestras vidas, el riesgo de que la IA pueda usarse para torcer la realidad a expensas de la democracia y aislarnos unos de otros.

SA: Por otro lado, hemos visto ejemplos positivos (así como negativos) de lo que sucede cuando la investigación y los descubrimientos científicos pasan a aplicaciones comerciales. Estoy pensando en el CERN y su desarrollo del Colisionador de Hadrones con su exploración de teorías de partículas. Los descubrimientos de los cuales se han utilizado en el diagnóstico y la terapia médica, incluidos los tratamientos contra el cáncer.

Me parece que los beneficios positivos están al alcance si podemos definir los límites correctos. Pero eso es un gran si.

Volvamos al lado oscuro y ahora estamos bastante aterrorizados, ¿puedes dar más detalles?

GB: Hasta ahora, hemos estado luchando para lidiar con tecnologías no muy sofisticadas como el spam y el phishing. Ahora, imagina hacer una videollamada real con alguien que tiene la misma cara y voz que alguien que conoces (tu madre, un amigo, tu jefe) pero que es completamente falso.

Uno puede pensar que esto es ciencia ficción pero ya sucedió y con la difusión de las tecnologías de IA será aún más fácil para cualquiera falsificar o hacerse pasar por alguien.

Con tantas cosas que nos ponen ansiosos, ¿le emociona más su potencial para un cambio positivo que el miedo?

GB: Es simplemente imposible decir qué lado prevalecerá, el positivo o el negativo; simplemente hay demasiadas variables.

¿Podrán las naciones regular? ¿Habrá herramientas nuevas y efectivas para detectar de manera eficiente las estafas de IA? ¿La Ley de Moore, según la cual el número de transistores en un microchip se duplica cada dos años, seguirá funcionando durante décadas o llegará a su fin?

Lo único seguro es que ahora nadie puede detener el desarrollo de estas tecnologías.

Por lo tanto, debemos aumentar la cantidad de personas talentosas, investigadores y nuevas empresas que ingresan a la industria para tener más fuerzas para contrarrestar a los invisibles y oscuros cuando aparecen.

SA: La confianza es claramente crítica aquí y, dado que las tensiones geopolíticas se definen más claramente entre los ideales y el dominio pro vs anti-occidental, no está claro cómo alcanzaremos un modelo de gobernanza digital global al que el mundo pueda adherirse.

Con la formación de un modelo de 'soberanía cibernética' que podría desafiar la apertura y la interoperabilidad de las economías digitales frente al modelo de estándares regulatorios más ligeros favorecido por democracias como las de la Unión Europea. Estamos muy lejos de un estándar común ideal sin un camino claro a seguir

Claramente nos encontramos en un momento importante en el que el balance del impacto positivo o negativo de la IA en la sociedad podría ir en cualquier dirección. Cuando hace recomendaciones al gobierno sobre el papel futuro de la tecnología, ¿qué papel positivo cree que la IA podría desempeñar tanto en nuestras economías como en la sociedad?

GB: Necesitamos urgentemente nuevas herramientas de productividad, ya que hay tantos desafíos que solucionar (medio ambiente, países subdesarrollados, etc.) que no se resolverán con nuestras tecnologías actuales, y es muy probable que la IA los brinde rápidamente.

Sin embargo, los riesgos son altos y, por lo tanto, necesitamos contar con regulaciones fuertes y efectivas.

Si bien muchos estados y reguladores comienzan a darse cuenta de lo peligrosas que pueden ser algunas redes sociales, tanto para la democracia como para la salud mental de las personas, especialmente de los jóvenes, aún no están actuando lo suficientemente rápido.

Entonces, ¿qué deberían estar haciendo? ¿Y qué modelo de regulación cree que se necesita: autorregulación de la industria, gobierno o una combinación de ambos?

GB: El hecho de que esto represente un cambio de paradigma se refleja en lo difícil que es para la regulación lidiar con los recién llegados. Existen preocupaciones permanentes con respecto a las leyes antimonopolio, la regulación de datos, el uso indebido de datos, la seguridad nacional, etc. en China, EE. UU. y Europa. ¿Quién hubiera pensado que TikTok podría convertirse en un problema de seguridad nacional tanto para EE. UU. como para Europa?

A más largo plazo, puedo ver la regulación moviéndose hacia dos nuevos territorios: (i) regulación de multitudes (que ya está en juego en la Ley de Servicios Digitales en Europa) donde serían los usuarios quienes declararían problemas como contenido inapropiado en las redes sociales; (ii) Regulación de la IA para enfrentar la IA desde las plataformas.

Es muy fácil modificar la regulación de contenido de una plataforma y la mayoría de las veces pasa desapercibido. Solo una regulación permanente que detectara alguna modificación del algoritmo sería lo suficientemente eficiente para enfrentar el potencial de las grandes plataformas tecnológicas.

En términos más generales, todo esto funcionaría solo si hay una manera de educar a tantas personas como sea posible sobre el riesgo y la oportunidad de estas tecnologías… y esperar lo mejor.

Este es un punto tan importante: a medida que nos absorbemos en el potencial de la IA, no debemos perder de vista el impacto en la sociedad y las personas en general. ¿Puede explicar qué formas de educación cree que se necesitan?

GB: Actualmente estoy trabajando en esto con el ministro digital francés. Creemos que puede comenzar muy bajo, simplemente respondiendo a las preocupaciones básicas de las personas: ¿Mi trabajo será desintermediado por la IA? ¿Se volverá inteligente la IA? Y luego, progresivamente, abrir temas más complejos a las personas; permítales comprender qué es una red de IA convolucional (un algoritmo de aprendizaje profundo), y tal vez incluso ellos mismos se conviertan en expertos.

Necesitamos allanar el camino hacia esto con muchos pasos que permitan a cualquiera alcanzar el nivel más alto de experiencia posible.

¿Y qué hay del impacto de la IA en la cultura? ¿Cuál es su visión de cómo ya está y cómo impactará cada vez más la creatividad y el arte?

GB: Por un lado, puedo concebir que habrá muchos problemas legales, en particular en torno a los derechos de publicación que podrían desencadenar el mismo tipo de juicios (probablemente incluso más grandes) que los que tuvimos a principios de la década de 2000 con Napster y P2P similares. plataformas

Pero, por otro lado, puedo ver que la IA es un gran impulso para la creatividad de los artistas. En la mayoría de los casos, puedo ver que la IA aumenta el potencial de innovación y creatividad humana.

SA: Me gustaría imaginar que, con el tiempo, podrías desarrollar tu propio "socio creativo" personal de IA. Hay dos trabajos para la IA, uno que nos ayuda a ser más organizados y productivos al automatizar las cosas que contribuyen a la creatividad pero que no son creativas en sí mismas y otro que es más un rol de musa y mago que ayuda a evocar ideas inesperadas y viajes aún por imaginar.

Me encantaría saber un poco más sobre ese impacto creativo. En su opinión, ¿cuáles son algunas de las mejores formas en que estamos usando la IA de esta manera ahora? ¿Y cómo ve que esto se desarrolle en el futuro?

GB: Prueba con DALL-E. Eso es increíble. Pedí imágenes para la portada de mi próximo libro y después de solo una hora, me devolvieron algunas opciones que eran tan buenas que me pregunté cómo mostrárselas al diseñador gráfico que había intentado hacer algunos borradores iniciales. ¿Qué pasaría si este mismo diseñador hubiera usado DALL-E? Seguramente se le habría ocurrido versiones mucho mejores que mis intentos.

SA: Estoy de acuerdo en que muchas de las herramientas que ahora tenemos al alcance de la mano son increíbles y la forma en que podemos acceder a ellas cada vez más es liberadora.

Culturalmente, creo que esto es muy emocionante, ya que la forma en que interpretamos e interactuamos con el mundo como seres humanos está tan socialmente construida y matizada. Nos hemos visto obligados a adoptar un estándar común basado en restricciones tecnológicas durante mucho tiempo y será emocionante ver cómo esto cambia a medida que nosotros y la tecnología evolucionamos juntos en formas que son conceptualmente diferentes y construidas de manera diferente.

También vemos mucho progreso y aplicaciones del mundo real relacionadas con la genómica, la biometría, la cadena de bloques, la realidad virtual y aumentada, la impresión 3D, la robótica, etc. ¿Qué es lo que más le emociona acerca de cómo ve estas tecnologías cada vez más integradas e interactuando en nuestras vidas?

GB: Me pregunto si podemos reducir la eficiencia de la IA a un número limitado de campos. Puedo verlo aplicado a tecnologías, artes, ciencias y más allá. En la agricultura, por ejemplo, puedo ver enormes ganancias de productividad.

Un agricultor tiene que lidiar con una gran cantidad de factores en un momento dado y estos cambian a lo largo del proceso agrícola: temperatura, humedad, suelos, precios, semillas, fertilizantes, procesos mecánicos, por nombrar algunos. Hay cientos de ellos, y demasiados para optimizarlos de manera eficiente.

Cuando traemos la IA a este ejemplo, puede ser muy buena para lidiar con procesos multifactoriales y secuenciales (que cambian con el tiempo). El potencial es para una agricultura más productiva, que es más verde y usa mucho menos fertilizante, creando menos externalidades y potencialmente creando resultados positivos como la captura de carbono.

Este potencial para resolver los apremiantes problemas globales que enfrenta la humanidad es nuestra gran esperanza. ¿Ya se está utilizando la IA de esta manera en la agricultura?

GB: Hasta ahora no hay un enfoque masivo para esto, pero la investigación proveniente de diferentes universidades es prometedora. MIT, Carnegie Mellon y Technion se encuentran entre las universidades que trabajan en el campo. Algunas empresas, como John Deere, también son firmes defensoras del potencial transformador de la IA. Aunque es difícil evaluar un potencial preciso, uno puede concebir fácilmente que la robotización y la IA tendrán un impacto masivo en la agricultura dentro de 10 años.

SA: Como muchos otros, estoy cada vez más involucrado en el cuidado de padres mayores y es fácil subestimar cuán severa puede ser la soledad para aquellos que viven en sociedades o subculturas más individualistas que basadas en la comunidad. Por lo que puedo ver, sus implicaciones para la salud y la calidad de vida son enormes y, en este sentido, veo un papel muy práctico para la IA combinada con la robótica para llenar un vacío muy necesario. Ya sea apoyando, estimulando y manteniendo a salvo a los enfermos de demencia o manteniendo vivos el afecto y los recuerdos de alguien amado durante toda la vida que ya no está.

Es este tipo de aplicaciones las que creo que podrían tener un impacto muy positivo y humano en nuestras vidas y en cómo integramos la tecnología en ellas.

Es un área fascinante para centrar la atención, con enormes implicaciones, y muestra la fuerza para el bien que la IA podría tener en el mundo y en nuestro futuro. ¿Serás personalmente parte de eso?

GB: Estaría feliz si hubiera podido ayudar a la IA a ser un elemento clave de la solución de descarbonización para resolver la crisis ambiental. Creo que va en la dirección correcta, pero hay mucho en juego para encontrar el equilibrio adecuado entre los innovadores y los reguladores, y eso no es fácil a escala mundial.

SA: Muchas gracias por compartir sus pensamientos y por todo el increíble trabajo que está haciendo mientras navegamos por este punto de inflexión y avanzamos con valentía hacia el futuro.