Luchando contra la marea de la IA: ¿Ejercicio en vano o en aumentar la conciencia a largo plazo?
Se cuenta la leyenda sobre el rey Canuto, el gobernante de Inglaterra del siglo XII, que plantó su trono a la orilla del océano y exigió que las mareas retrocedieran. Su poder era limitado y, contrariamente a la creencia popular, supuestamente hizo esto para demostrar los límites de su poder, no porque asumiera erróneamente que tenía algunas supuestas habilidades sobrenaturales.
Muchos ven los esfuerzos por contener la explosión de la inteligencia artificial como un esfuerzo inútil del tipo del Rey Canuto. Sin embargo, así como el rey realmente se dispuso a hacer un comentario, un movimiento emergente de expertos y activistas busca arrojar luz sobre los posibles abusos que la IA puede traer. En el proceso, la conciencia a largo plazo puede conducir a mejores resultados de IA para las empresas y la sociedad.
Acabamos de ver esto en la carta abierta, elaborada por el Future of Life Institute, que exige una "pausa" de seis meses en los "experimentos gigantes de IA". La carta fue respaldada por luminarias de todo el mundo de la tecnología, incluidos Steve Wozniak, Elon Musk, el ganador del Premio Turing Yoshua Bengio, Stuart Russell, profesor de la Universidad de California-Berkeley y Evan Sharp de Pinterest.
La IA avanzada “la planificación y la gestión no están sucediendo, a pesar de que en los últimos meses los laboratorios de IA se han visto envueltos en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir, o controlar de manera confiable”, dice la carta.
La carta El futuro de la vida no es el único retroceso contra el avance de la IA en nuestras vidas y medios de subsistencia. A fines de 2021, Timnit Gebru, un conocido estudioso de la IA que fue despedido por Google en diciembre de 2020 por llamar la atención sobre el dominio y la manipulación de la IA por parte de las grandes tecnologías, inició el movimiento "IA lenta", como se describe en un artículo publicado el pasado año en IEEE Spectrum por Eliza Strickland. Gebru fundó el Instituto de Investigación de IA Distribuida (DAIR), liderando el camino con el movimiento lento de IA.
“La IA debe regresar a la tierra”, dijo en un comunicado de prensa en el momento de la fundación. “Se ha elevado a un nivel sobrehumano que nos lleva a creer que es inevitable y está más allá de nuestro control. Cuando la investigación, el desarrollo y la implementación de la IA se arraigan en las personas y las comunidades desde el principio, podemos hacer frente a estos daños y crear un futuro que valore la equidad y la humanidad”.
Desarrollar IA para siempre es una cosa, pedir una pausa en el desarrollo es otra. Los analistas de la industria se muestran escépticos sobre si esta marea puede detenerse aunque sea por un momento, y si vale la pena intentarlo. “Hubo una protesta similar cuando IoT se volvió popular inicialmente sobre la recopilación de datos personales”, dice Andy Thurai, analista principal de Constellation Research. “Pero usar Fitbit y compartir los datos parece ser una práctica muy común y aceptada ahora. No debería tratarse de detener una determinada tecnología o empresa a menos que realmente se vuelvan deshonestos”.
La carta "es una propuesta absurda, incluso a primera vista", coincide James Kobielus, director de investigación sénior para la gestión de datos de TDWI. probado en el campo después de seis meses. También parece asumir que los modelos más poderosos son el problema, no la solución. Y asume que todos simplemente van a detener la competencia vertiginosa en la innovación de la tecnología solo porque tiene vulnerabilidades. Esta última preocupación nunca se ha solucionado. detuvo cualquier innovación tecnológica en cualquier lugar."
Si el desarrollo de la IA "se detiene o imponemos una moratoria durante un cierto período de tiempo, ¿entonces qué?" pregunta Thurai. “¿Se puede hacer el trabajo después de seis meses? ¿Qué habría cambiado entonces? ¿Las naciones malas y los países competidores también detendrían el desarrollo, o solo es aplicable a los EE. UU.? Si es así, ¿por qué nos disparamos en el pie? Si es mundial, ¿cómo lo vamos a imponer?”.
En otras palabras, el espectáculo debe continuar. “Cambiar el enfoque para trabajar en la gobernanza, la seguridad, la supervisión y las medidas de seguridad adecuadas dentro de las cuales estos sistemas pueden funcionar”, insta Thurai. “Define lo que es aceptable y lo que no lo es. No maten la innovación.”
Ciertamente, es poco probable que se exija una pausa en cualquier tipo de desarrollo tecnológico, especialmente cuando hay mucho dinero vinculado a él. Sin embargo, lo que logran tales esfuerzos es crear conciencia sobre los peligros de que la IA se vuelva loca. Así como los esfuerzos para dejar de fumar a partir de la década de 1960 parecían rendir poco (la gente seguía fumando y muriendo), finalmente llegamos a un mundo donde los problemas de salud son bien atendidos y fumar está prohibido en todas partes. La conciencia de los riesgos de la IA también puede tardar en filtrarse a través de las empresas y la sociedad.
