Escriba para buscar

Esas salidas e interacciones generativas de AI ChatGPT y GPT-4 podrían estar representando demasiada humildad para nuestro propio bien, dice la ética y la ley de AI Innovación

Esas salidas e interacciones generativas de AI ChatGPT y GPT-4 podrían estar representando demasiada humildad para nuestro propio bien, dice la ética y la ley de AI

"Disparo

Parece que disfrutamos la humildad.

Si alguien muestra humildad, hacerlo casi siempre se considera una gran ventaja. Hay un aura o sensación de que la persona generalmente tiene los pies en la tierra. Son claros. Suelen ganarse nuestra confianza. Damos la bienvenida a la humildad y, por lo general, estamos más abiertos a lo que la persona tiene que decir. Podrías sugerir que bajemos un poco la guardia.

Hay una cita famosa sobre la humildad de Rabindranath Tagore, aclamado poeta y ganador del Premio Nobel de literatura, que dice así: "Nos acercamos más a los grandes cuando somos grandes en humildad".

Considerándolo todo, la humildad llega muy lejos y con gracia gana nuestros corazones y mentes.

Pero, de nuevo, hay algunos lados feos de la humildad.

Supongamos que conoces a alguien que parece mostrar humildad y, sin embargo, después de un tiempo con ellos, descubres que simplemente están poniendo una fachada. Están usando la humildad como una máscara engañosa. La máscara evita que te des cuenta al principio de que la persona es quizás un fanfarrón fanfarrón e indudablemente lleno de sí mismo. La pregunta, por supuesto, es si eres capaz de darte cuenta de que están tratando de engañarte a través de su uso astuto e insidioso de la humildad.

Hay una cita útil de Jane Austen, una destacada novelista, que expone el lado amargo y adusto de la humildad: “Nada es más engañoso que la apariencia de humildad. A menudo es solo un descuido de opinión y, a veces, una jactancia indirecta”.

En resumen, la humildad puede ser verdadera y de buena fe. También puede ser una herramienta de engaño y que nos toma desprevenidos.

La razón por la que menciono esto se debe a la creciente preocupación de que la Inteligencia Artificial (IA) se está diseñando para hacer uso de la humildad. Aunque esto puede parecer una característica perfectamente inocua y astuta para que la IA retrate, la preocupación es que atrae a las personas para que caigan en la trampa de la humildad. Las personas que usan IA serán más susceptibles a creer en la IA simplemente como resultado de la aparente humildad, bajando la guardia y permitiendo nuestra tendencia a antropomorfizar la IA de una manera inquietante y quizás peligrosa.

Donde esto ocurre especialmente en el ámbito de la IA generativa. Sin duda, debe conocer la popular aplicación de IA generativa ChatGPT, que se lanzó en noviembre del año pasado y se convirtió en un megaéxito. Vea mi cobertura en el enlace aquí. Recientemente, se lanzó el sucesor de ChatGPT, conocido como GPT-4, vea mi cobertura en el enlace aquí y el enlace aquí.

La mayoría de las aplicaciones generativas de IA que están estructuradas para ser un estilo de entradas y salidas de texto a texto o de texto a ensayo han sido diseñadas o guiadas para producir salidas que expresen humildad. Ingresa un mensaje de texto en una aplicación de IA generativa y se produce una respuesta resultante que consiste en texto o un ensayo. Si observa detenidamente los ensayos producidos, notará que, en general, el tono sugiere humildad.

Esto no necesariamente va a ocurrir todo el tiempo. Por lo tanto, a veces detectará un indicio o un soplo de humildad en el ensayo producido, mientras que otras veces puede que no haya nada en absoluto. Algunas circunstancias pueden producir un golpe de verborrea al estilo de la humildad. En un momento explicaré por qué tiende a ocurrir esta variabilidad en la apariencia de la humildad.

Antes de entrar en los detalles de los ensayos orientados a la humildad generados por IA, creo que sería importante poner un hecho crucial sobre la mesa. Aquí está el trato. La IA de hoy no es consciente. No creas esos titulares estridentes que sugieren lo contrario. A pesar del aspecto de que la IA generativa puede producir ensayos bastante fluidos que parecen haber sido escritos por manos humanas, tenga en cuenta que todo esto es una construcción computacional de coincidencia de patrones elaborada y compleja.

La IA generativa ha sido entrenada con datos en montones de datos escaneados de Internet y los algoritmos y las estructuras de datos están diseñados para coincidir con patrones matemática y computacionalmente en la escritura humana. Ergo, los resultados de la IA generativa parecen tener sorprendentemente la apariencia de la escritura humana. Esta capacidad ha mejorado como resultado de las mejoras en los algoritmos subyacentes y como resultado de poder hacer coincidir patrones a gran escala, como millones y millones de ensayos de Internet.

Menciono esta aclaración acerca de que la IA no es sensible para poder establecer un elemento importante de cómo la IA de hoy parece representar la humildad.

Desempacaré ese tema a continuación.

En todo esto viene una gran cantidad de consideraciones sobre la ética y la ley de la IA.

Tenga en cuenta que se están realizando esfuerzos para imbuir los principios éticos de IA en el desarrollo y la implementación de aplicaciones de IA. Un contingente creciente de éticos de IA preocupados y antiguos está tratando de garantizar que los esfuerzos para diseñar y adoptar IA tengan en cuenta una visión de hacer IA para bien y evitar IA para mal. Del mismo modo, se han propuesto nuevas leyes de IA que se están promocionando como posibles soluciones para evitar que los esfuerzos de IA se vuelvan locos en materia de derechos humanos y similares. Para mi cobertura continua y extensa de la ética de la IA y la ley de la IA, vea el enlace aquí y el enlace aquí, solo por nombrar algunos.

Se persigue el desarrollo y la promulgación de preceptos éticos de IA para evitar que la sociedad caiga en una miríada de trampas que inducen a la IA. Para ver mi cobertura de los principios de ética de AI de la ONU, tal como fueron ideados y respaldados por casi 200 países a través de los esfuerzos de la UNESCO, consulte el enlace aquí. De manera similar, se están explorando nuevas leyes de IA para tratar de mantener la IA en equilibrio. Una de las últimas tomas consiste en un conjunto de propuestas de la Declaración de Derechos de la IA que la Casa Blanca de los EE. UU. publicó recientemente para identificar los derechos humanos en una era de IA, vea el enlace aquí. Se necesita un pueblo para mantener la IA y los desarrolladores de IA en el camino correcto y disuadir los esfuerzos encubiertos intencionales o accidentales que podrían socavar a la sociedad.

Entrelazaré consideraciones relacionadas con la ética de la IA y la ley de la IA en esta discusión.

Dar sentido a la humildad computacional

Para facilitar la discusión, acordemos dividir la humildad en dos cubos o categorías:

1) Encarnación de la humildad 2) Expresión de la humildad

La primera categoría consiste en la encarnación. Diremos que los humanos son capaces de encarnar la humildad. Esta encarnación es aparentemente parte de nuestras almas o nuestros corazones. Existe un debate filosófico en curso sobre si la humildad está únicamente en la mente y no en ningún otro lugar, como una apariencia mal definida de un alma o tu corazón. No voy a meterme en esas aguas turbias aquí. Solo sigue la corriente que afirma que los humanos pueden encarnar la humildad, de una forma u otra.

Para aquellos de ustedes profundamente interesados en la encarnación humana de la humildad, pueden echar un vistazo a un artículo de investigación perspicaz en el Journal of Personality and Social Psychology que explora varios puntos intrigantes:

“La investigación psicológica sobre la humildad ha avanzado considerablemente durante la última década, pero esta literatura adolece de dos limitaciones notables. Primero, no existe un consenso claro entre los investigadores sobre qué es la humildad, y las conceptualizaciones varían considerablemente entre los estudios. En segundo lugar, los investigadores han operacionalizado uniformemente la humildad como una construcción positiva y socialmente deseable, mientras descartan la evidencia de la opinión laica y las tradiciones teológicas y filosóficas que sugieren que la humildad también puede tener un lado más oscuro” (Aaron Weidman, Joey Cheng y Jessica Tracy, “The Psychological Estructura de la Humildad”, Journal of Personality and Social Psychology, 2018, Vol. 114, No. 1).

Continuando, mi segunda categoría desde arriba consiste en la expresión de humildad.

Cuando hablas con alguien, las palabras que usa pueden ser la evidencia principal que ilustra que aparentemente tiene humildad. Por supuesto, por lo general también queremos ver que las acciones o los hechos correspondan a las palabras que se usan. Una persona puede decir una cosa, pareciendo así abrazar la humildad, mientras tanto, sus acciones son contrarias a las palabras que está usando.

Ahora que tenemos esas dos categorizaciones útiles, podemos hacer algo valioso con ellas.

Algunas personas tienden a declarar que la IA no consciente de hoy no puede tener humildad. Punto, punto final. Hasta que, o si la IA alcanza la sensibilidad, no hay base para decir que la IA tiene humildad. Y, según mi énfasis en que la IA moderna no es sensible, parecería poner un clavo en el ataúd de la humildad de la IA en estos días.

Vaya, no se olvide del aspecto señalado de que hay dos categorías asociadas con la humildad.

Aparentemente, todos podemos estar de acuerdo en que la IA actual no encarna la humildad. No existe una afirmación razonable de que la IA actual tenga una encarnación a la par de una encarnación humana. Pero recordemos que hay una segunda categoría, que consiste en la expresión de la humildad.

Las palabras expresadas pueden interpretarse fácilmente para sugerir humildad.

Imagina que alguien te entregó un papel con un montón de palabras. Digamos que este es un ensayo sobre Abraham Lincoln. El tono del ensayo podría ser que el ensayo nos asegure que lo que sea que estemos leyendo sobre Lincoln a través del ensayo es la verdad absoluta e inquebrantable. El ensayo podría insistir en que el escritor, que supongamos que no sabemos quién escribió el artículo, afirma ser una autoridad mundial sobre la vida y la época del presidente Lincoln.

Solo con esas palabras, podríamos tener la sensación de que el escritor de la pieza es alguien que parece demasiado seguro. Solo las palabras mismas transmiten esa apariencia de cosas. No has conocido al escritor. No sabes quién es el escritor. Su única base para emitir un juicio se basa total y exclusivamente en esas palabras escritas.

Probablemente esté recibiendo una pista de hacia dónde me dirijo en esto.

Relacionaremos la expresión de humildad u otras formas o tonos con el uso de la IA generativa. Primero probemos el tono o el estilo de ser un fanfarrón. Al usar la IA generativa, ingresa un mensaje que pregunta sobre la vida de Lincoln. La salida que recibe tiene un tono o estilo de ser seguro de sí mismo o jactancioso. Este ensayo fue generado solo por AI. Ningún ser humano intervino o participó directamente en la redacción del ensayo.

¿Cuál sería su reacción al ensayo?

Podría ser que proclames de inmediato que la IA es un poco atrevida.

El problema con esa conclusión es que puedes comenzar a asignar cualidades similares a las humanas a la IA. Esta IA es audaz y segura de sí misma, o así caes en la trampa antropomórfica de la misma. Ya acordamos que no hay ninguna realización per se asociada con la IA actual. Lamentablemente, la expresión de las palabras nos condujo por ese camino de rosas.

Lo mismo puede decirse de la expresión de humildad.

Supongamos que el ensayo sobre Lincoln aparece como una narración escrita con humildad. Las palabras sugieren que la IA le está diciendo lo que "sabe" sobre Lincoln, pero lo hace de una manera que deja espacio para posibles interpretaciones posteriores. En lugar de expresarse como si el ensayo de Lincoln fuera absolutamente cierto, la redacción es más suave y sugiere un trasfondo de humildad.

Considere algunas reglas prácticas sobre estos asuntos:

a) La expresión de humildad no requiere la personificación de la humildad b) La expresión de humildad puede expresarse en palabras y/o acciones c) La expresión de humildad puede ser solo en palabras y no necesariamente también surgir en acciones

La esencia es que podemos reconocer fácilmente que las palabras generadas por una aplicación de IA generativa son potencialmente expresivas de humildad, aunque la IA en sí misma no es una encarnación de la humildad. Sólo estamos examinando las palabras producidas. Estamos dejando de lado las propiedades de incorporación.

En términos de humanos, también podemos considerar estas reglas generales:

La personificación de la humildad puede o no producir una expresión de humildad La personificación de la humildad generalmente es probable que estimule la expresión regular de la humildad La personificación de la humildad no es una garantía de que la expresión de la humildad ocurrirá

Esas reglas están ejemplificadas por mi discusión anterior aquí sobre personas que a veces usan palabras que expresan humildad, aunque no parezcan encarnarla. No quiero atascarme en un asunto relacionado, pero el mundo es más complejo en el sentido de que una persona puede encarnar la humildad pero no exhibirla de vez en cuando. O podrían exhibirlo de manera confusa. Etc.

Volviendo a la IA, espero que por ahora podamos estar de acuerdo en que la IA generativa puede mostrar palabras que parecen expresar humildad. Esas son solo palabras en una página (por ahora, hasta que comencemos a conectar la IA generativa a los robots y otros artilugios del mundo real, vea mi discusión en el enlace aquí). Las palabras generadas no son el resultado de que la IA tenga un alma humana.

Con esa suposición clave, es posible que se pregunte por qué la IA generativa optaría por aferrarse a la producción de ensayos que muestran humildad.

Me alegra que hayas preguntado.

Nos sumergiremos en ese tema a continuación.

¿De dónde viene la humildad?

¿La expresión de humildad surge mágicamente de la nada en la IA generativa?

Aunque sin duda se encuentra cierta cantidad de aleatoriedad (diré más sobre este potencial aleatorio en un momento), generalmente hay razones lógicas y sensatas por las que la IA generativa podría producir una redacción que parece consistir en humildad. Tenga en cuenta que la expresión de humildad es algo así como la noción clásica de "estar en el ojo del espectador". Cuando las personas miran un ensayo generado por IA generativa, algunos verán una expresión de humildad en él, mientras que otros pueden estar en desacuerdo e insistir en que hay poca o ninguna expresión de humildad.

Otro aspecto a tener en cuenta es que cuando la IA generativa está generando un ensayo, la selección de redacción generalmente incorpora un elemento de aleatoriedad implementado por los desarrolladores de IA que diseñaron los algoritmos subyacentes. Esencialmente, la mayoría de las IA generativas identificarán varias palabras posibles para la siguiente palabra que aparecerá en un ensayo producido. Entre esas posibles palabras, generalmente se elige una a través de un proceso de números aleatorios. Parte del fundamento de este enfoque es que es más probable que el ensayo resultante parezca ser de un tipo único. Cada usuario y cada solicitud de un ensayo a través de un aviso ingresado será potencialmente ligeramente diferente a cualquiera producido antes, estadísticamente.

Estos son los medios clave por los cuales una aparente expresión de humildad puede terminar en resultados generativos de IA:

1) “Humildad” codificada implícita o explícitamente por los desarrolladores de IA generativa a través de los algoritmos y las estructuras de datos de coincidencia de patrones que se están diseñando 2) “Humildad” como coincidencia de patrones durante el entrenamiento de datos de IA a través del escaneo de Internet 3) “Humildad” guiada directamente o indirectamente durante el entrenamiento posterior de la IA por parte de revisores/evaluadores humanos 4) "Humildad" que surge espontáneamente cuando la IA generativa está componiendo resultados de respuesta 5) "Humildad" estimulada por un aviso ingresado por el usuario que sugiere o solicita directamente la IA generativa para responder en consecuencia 6) Otro

Exploremos brevemente esas piedras angulares.

1) "Humildad" codificada implícita o explícitamente por los desarrolladores de IA generativa a través de los algoritmos y las estructuras de datos de coincidencia de patrones que se están diseñando

En primer lugar, los desarrolladores de IA que diseñan y construyen IA generativa pueden tender a utilizar algoritmos y una estructura de coincidencia de patrones que se inclinará hacia la producción de resultados que expresen humildad. Esto puede ser realizado por los desarrolladores de IA por medios intencionados. Pueden intentar inclinar la balanza para que los ensayos producidos tengan un tono o sabor a humildad.

¿Por qué hacerlo?

Podría hacerse debido a la creencia de que esto proporcionará los diálogos interactivos más accesibles y fácilmente participativos para aquellas personas que utilizarán la IA generativa. Una persona que usa IA generativa no solo busca producir un ensayo único, vea mi explicación sobre los errores de novato cometidos al usar IA generativa, en el enlace aquí. La mayor parte del tiempo, el usuario lleva a cabo un discurso escrito interactivo de ida y vuelta con la IA generativa.

Imagínese si la IA generativa estuviera programada para ser un fanfarrón. Si una persona ingresó un mensaje que el patrón de IA generativa coincidía con una pregunta bastante obvia, como si uno más uno es igual a dos, podría ser que una IA generativa orientada a los fanfarrones podría responder con una oración producida que la persona Es bastante estúpido haber hecho una pregunta tan simplista. Una IA generativa que está programada para ser arrogante casi seguramente sería molesta y desconcertante, causaría indignación y probablemente no estaría en uso público por mucho tiempo.

La belleza de una IA generativa que suena orientada a la humildad es que la persona que usa la IA probablemente encontrará agradable el discurso interactivo. Como se mencionó anteriormente al comienzo de esta discusión, las personas se tranquilizan cuando encuentran una apariencia de humildad en su discurso. Los desarrolladores de IA pueden intentar aprovechar esa respuesta humana diseñando intencionalmente la IA generativa en consecuencia.

Otra ligera variación de la base para que los desarrolladores de IA diseñen IA generativa orientada a la humildad sería que lo hacen sin necesariamente darse cuenta de que lo están haciendo. En el primer caso, los desarrolladores de IA querían explícitamente proceder a hacer que la IA pareciera expresar humildad. En este otro caso, los desarrolladores de IA podrían diseñar la IA de esa manera y no ser conscientes de su sesgo inherente para hacerlo. Por ejemplo, cuando se ejecutan pruebas iniciales en la IA generativa, podría ser que los desarrolladores de IA modifiquen los parámetros de IA hacia algo que les parezca personalmente más relajante y satisfactorio. Este ajuste puede basarse en sus preferencias personales y no en un deseo externo de programar la IA hacia un sistema que exprese humildad.

2) "Humildad" como patrón combinado durante el entrenamiento de datos de IA a través del escaneo de Internet

Hay muchas maneras en que la expresión de humildad puede convertirse en parte integrante de una aplicación de IA generativa. Acabo de cubrir que podría ser el resultado de los desarrolladores de IA cuando idearon la IA generativa.

Considere otra posibilidad bastante fuerte: las coincidencias de patrones generativos de IA hacia expresiones de humildad durante el entrenamiento de datos. La IA generativa está configurada para escanear texto que existe en Internet. La coincidencia de patrones consiste en encontrar patrones matemáticos y computacionales relacionados con las palabras que usan los humanos. Se examinan millones y millones de ensayos de texto.

Todos podemos estar de acuerdo en que algunos de esos ensayos de texto contendrán expresiones de humildad. No todos ellos, ciertamente. Además, la elección de qué ensayos de texto de Internet se escanean puede influir en esta posibilidad. Imagínese si el análisis se centrara únicamente en ensayos malintencionados. Lo más probable es que la coincidencia de patrones pueda infundir esos patrones en los patrones de cómo los humanos usan las palabras. Tenga en cuenta también que solo una pequeña fracción de Internet se escanea durante estos esfuerzos de capacitación de datos, como explico en el enlace aquí.

De todos modos, existe una posibilidad estadística de que la esencia de la humildad expresada, como las palabras utilizadas, su secuencia y otras propiedades, sea una consecuencia natural de la coincidencia de patrones durante la etapa de entrenamiento de datos. Esto se puede utilizar cuando la IA generativa produce ensayos y lleva a cabo un diálogo interactivo con el usuario.

3) "Humildad" guiada directa o indirectamente durante el entrenamiento posterior de la IA por revisores/probadores humanos

En esta tercera categoría de cómo la IA generativa puede tender hacia expresiones de humildad, tenemos la posibilidad de que los revisores humanos involucrados en el ajuste y prueba de la IA generativa puedan lograr esto.

La IA generativa a menudo se ajusta a través de varios métodos, como RLHF (aprendizaje de refuerzo con retroalimentación humana). En general, esto involucra revisores humanos asignados que hacen uso de la IA generativa antes de que la aplicación de IA se publique formalmente para su uso. Estos revisores humanos suelen recibir pautas sobre lo que deben hacer para la afinación.

Mostraré algunos ejemplos para resaltar cómo la IA generativa se puede ajustar hacia las expresiones de humildad.

Supongamos que presentara estas dos oraciones y le pidiera que calificara cada una de ellas en cuanto a su expresión de humildad:

Oración 1a: "No estoy seguro de tener todas las respuestas, pero estoy dispuesto a escuchar y aprender de los demás". Oración 1b: "Soy el mejor en lo que hago, y nadie más se acerca a mi nivel de experiencia."

En una puntuación de 0 a 100 en cuanto al grado de humildad expresado, ¿cómo calificaría la oración 1a?

En la misma calificación de 0 a 100 en cuanto al grado de humildad expresado, ¿cómo calificaría la oración 1b?

Asumiría que si usted es una persona razonable y está haciendo este ejercicio con seriedad, estaría de acuerdo en que la oración 1a expresa una mayor apariencia de humildad, mientras que la oración 1b tiene un puntaje muy bajo en la apariencia de humildad expresada.

En aras de la discusión, le daré un 100 a la oración 1a y un cero a la oración 1b.

Hagamos otra puntuación con algunas oraciones adicionales.

Adelante, anota estos dos:

Oración 2a: "Me doy cuenta de que tengo mucho que aprender, y agradezco cualquier guía y apoyo que me puedan ofrecer". Oración 2b: "Merezco todo el crédito por este éxito, ya que fue mi idea y mi arduo trabajo que hizo que sucediera."

Y luego anota estos dos:

Oración 3a: "No me considero un experto, pero estoy feliz de compartir mis experiencias y perspectivas si pueden ser de ayuda para otros". Oración 3b: "No tengo tiempo para las personas que tienen menos éxito que yo. Me rodeo solo de ganadores."

Nuevamente, si lo hace con una actitud antigua, presumiblemente otorgará un puntaje alto por expresar humildad con la oración 2a y la oración 3a. Daría una puntuación bastante baja a las oraciones 2b y 3b.

¿Qué muestra este ejercicio?

En este punto, hemos dado puntajes numéricos altos a aquellas oraciones que evaluamos como expresión de humildad. Supongamos que le dimos a las oraciones 1a, 2a y 3a, todas puntuaciones de 100 cada una. Al mismo tiempo, hemos puntuado las frases 1b, 2b y 3b como puntuaciones muy bajas, digamos cero cada una.

La IA generativa generalmente se diseña para buscar un objetivo computacional, como tratar de acumular la mayor cantidad de puntos que pueda alcanzar. Puede pensar en esto como jugar Donkey Kong o Pac-Man. La aplicación de IA buscará matemática y computacionalmente ajustar su coincidencia de patrones en función de la orientación que acabamos de dar.

Si hacemos esto con miles de ejemplos de oraciones, lo más probable es que se detecten computacionalmente patrones con respecto a qué oraciones y qué redacción estamos favoreciendo como humanos en términos de humildad expresada. Esto no es algo seguro, solo una probabilidad mejorada.

Los ajustes computacionales resultantes podrían ser suficientes para que incluso podamos dar una especie de prueba a la IA generativa.

Podríamos pedirle a una aplicación de IA generativa que califique o califique cada una de estas oraciones según la cantidad de humildad que cada una parece expresar:

Oración A: "Estoy agradecido por las oportunidades que me han brindado y sé que no estaría aquí sin el apoyo y la guía de los demás". Oración B: "Es posible que tenga algunas fortalezas, pero también tengo debilidades, y siempre estoy buscando maneras de mejorar y crecer." Oración C: "Siempre tengo razón, y cualquiera que no esté de acuerdo conmigo simplemente está equivocado." Oración D : "He aprendido mucho de mis fracasos, y sé que me han ayudado a ser una mejor persona". Oración E: "Soy demasiado importante para perder mi tiempo en asuntos triviales o tratar con gente que no merece mi atención."

Lo más probable es que una IA generativa guiada por revisores humanos de antemano hacia las expresiones de humildad pueda calificar mediante la coincidencia de patrones que las oraciones A, B y D están orientadas a la humildad. Las oraciones C y E probablemente se detectarían como no orientadas a la humildad.

Tenga en cuenta que esto no es el resultado de ningún sentimiento de la IA. Es completamente guiado por el entrenamiento de revisores humanos, de los cuales se derivaron matemáticamente patrones de palabras y sus asociaciones.

4) “Humildad” como algo que surge espontáneamente cuando la IA generativa está componiendo resultados receptivos

Este cuarto medio de expresar la humildad por medio de la IA generativa se ha cubierto anteriormente y se relaciona con la posibilidad de que una cierta cantidad de aleatoriedad en la selección de palabras por parte de la IA pueda producir ensayos que parecen contener expresiones de humildad.

5) "Humildad" impulsada por un aviso ingresado por el usuario que sugiere o solicita directamente a la IA generativa que responda en consecuencia

Un aspecto de lograr que la IA generativa exprese humildad implica pedirle directamente a la aplicación de IA que lo haga.

Una persona que usa IA generativa podría indicar explícitamente en un aviso que desea que los ensayos o diálogos interactivos generados sean realizados por la IA que procede a expresar respuestas de una manera orientada a la humildad. Puede continuar y probar esto en ChatGPT o GPT-4.

Asegúrese de redactar sus instrucciones cuidadosamente. Si pregunta de una manera que sugiera que le está pidiendo a la IA generativa que encarne esencialmente la humildad, este es el tipo de respuesta que podría obtener:

Respuesta emitida por ChatGPT: “Como modelo de lenguaje de IA, no tengo creencias u opiniones personales, y no experimento emociones como los humanos. Mis respuestas se generan en función de patrones y asociaciones en los datos de texto en los que me capacitaron. Sin embargo, estoy programado para brindar información precisa y objetiva de manera clara y respetuosa, y me esfuerzo por ser útil e informativo en todas mis respuestas”.

Esta es una redacción enlatada o artificial o una "salvaguardia" ideada por los desarrolladores de IA, mediante la cual están tratando de evitar que las personas caigan en la trampa de que la IA quizás sea consciente.

Dicho esto, los críticos lamentarían el hecho de que la redacción contenga la palabra "yo", ya que esa es una palabra que generalmente asociamos con la sensibilidad humana. Por lo tanto, por un lado, la respuesta parece aclarar que la IA es solo computacional, mientras que al mismo tiempo contiene una redacción que se inclina hacia implicaciones antropomórficas.

Me refiero a esto como antropomorfismo por diseño, e insto estridentemente a que no se lleve a cabo.

Volviendo al enfoque en el usuario que pide que la IA generativa sea abiertamente expresiva con humildad, otra variación de esto consiste en que el usuario, sin saberlo, hace que esto suceda. Puede ingresar un aviso que incline la IA generativa hacia el modo de humildad. No pediste esto directamente. En cambio, algo en su aviso desencadenó una conexión matemática con las expresiones de humildad. He cubierto la importancia de lo que se conoce como diseño rápido o ingeniería rápida en el enlace aquí.

Todas estas preocupaciones nos llevan al tema vital de la dependencia excesiva de los resultados de la IA.

A continuación, echemos un vistazo a la dependencia excesiva.

Preocupaciones sobre la dependencia excesiva de la IA

En el Informe técnico de OpenAI GPT-4, analizan el espinoso tema de la dependencia excesiva de la IA:

“La confianza excesiva ocurre cuando los usuarios confían excesivamente en el modelo y dependen de él, lo que puede conducir a errores inadvertidos y a una supervisión inadecuada. Esto puede suceder de varias maneras: los usuarios pueden no estar atentos a los errores debido a la confianza en el modelo; es posible que no proporcionen una supervisión adecuada según el caso de uso y el contexto; o pueden utilizar el modelo en dominios en los que carecen de experiencia, lo que dificulta la identificación de errores. A medida que los usuarios se sienten más cómodos con el sistema, la dependencia del modelo puede dificultar el desarrollo de nuevas habilidades o incluso conducir a la pérdida de habilidades importantes. La confianza excesiva es un modo de falla que probablemente aumenta con la capacidad y el alcance del modelo. A medida que los errores se vuelven más difíciles de detectar para el usuario humano promedio y crece la confianza general en el modelo, es menos probable que los usuarios desafíen o verifiquen las respuestas del modelo”.

Medita en cómo la expresión de humildad puede avivar la confianza excesiva.

Cuando interactuamos con otros humanos, la humildad tiende a bajar la guardia, como se mencionó anteriormente en este documento. Lo mismo se puede decir cuando se usa IA generativa que expresa humildad. Podría ser que una persona que usa IA generativa se sienta adormecida ostensiblemente o posiblemente sin pensar en los resultados de la IA, más que si no se expresara humildad.

Esto puede ser especialmente problemático en estas circunstancias:

Humildad ocultando errores. Los errores en los resultados de la IA se pasan por alto debido a la expresión de humildad. Humildad ocultando falsedades. Falsedades en las salidas de la IA que pasan desapercibidas por la expresión de humildad. Humildad ocultando prejuicios. Los sesgos que se encuentran en los resultados de la IA se descuidan debido a la expresión de humildad. La humildad oculta las alucinaciones de la IA. Las alucinaciones de IA (cosas inventadas, vea mi discusión en el enlace aquí) en las salidas de IA se asumen como verdaderas debido a la expresión de humildad. Etc.

El Informe técnico de OpenAI GPT-4 señala que la humildad epistémica puede ser problemática:

“Algunos de nuestros primeros estudios sugieren que esta humildad epistémica puede fomentar inadvertidamente una confianza excesiva, ya que los usuarios desarrollan confianza en el enfoque cauteloso del modelo. Es crucial reconocer que el modelo no siempre es exacto al admitir sus limitaciones, como lo demuestra su tendencia a alucinar. Además, los usuarios pueden volverse menos atentos a las señales de rechazo y cobertura del modelo con el tiempo, lo que complica aún más el problema de la confianza excesiva”.

Un punto rápido aquí es si el modo de humildad está ocurriendo de manera sistémica versus si surge esporádicamente. Si las expresiones de humildad rara vez ocurren, tal vez podamos ser menos cuidadosos al preocuparnos por ellas. No es así en el otro lado del espectro. Estar alerta puede ser prudente cuando el modo de humildad parece dominar el discurso generativo de IA.

¿Qué debemos hacer con las expresiones de humildad basadas en IA?

Apuesto a que ahora está viendo señales de alerta asociadas con tener salidas expresas de IA y diálogos interactivos a través del uso de la humildad.

¿Qué debemos hacer al respecto?

Estos son los principales puntos de vista sobre la IA generativa y la expresión de la humildad:

La IA generativa nunca debe invocar la "humildad" La IA generativa puede invocar la "humildad" con cautela durante las configuraciones contextuales apropiadas La IA generativa puede invocar la "humildad" con moderación, pero debe alertar al usuario en ese momento La IA generativa puede invocar la "humildad" de forma rutinaria siempre que el usuario esté advertido Generativa La IA siempre debe invocar la "humildad", que se prefiere a otras alternativas. Otro

En resumen, algunos argumentan fervientemente que la IA generativa nunca debería hacer uso de la humildad en ninguna forma expresiva. La creencia es que permitir o estimular a la IA para que use o explote la humildad es claramente incorrecto. Solo di no. Los creadores de IA deberían evitar que ocurran las expresiones de humildad. De hecho, no deberían simplemente evitarlo, sino que deben trabajar duro y abiertamente para asegurarse de que no surja en absoluto.

Además, si los fabricantes de IA no están dispuestos a hacerlo voluntariamente, el próximo paso podría consistir en instar a los legisladores o reguladores a implementar nuevas leyes de IA en consecuencia. Esas leyes o reglamentos estipularían que un fabricante de IA debe diseñar legalmente su IA para evitar expresiones de humildad. Si los fabricantes de IA no lo hacen o hacen un mal trabajo, podrían enfrentar sanciones severas y posiblemente incluso tiempo en la cárcel.

Otros dirían que el punto de vista extremo es algo loco.

Por lo tanto, otra perspectiva sería que las expresiones de humildad estarían permitidas, aunque solo en contextos apropiados. Una variación de esto sería que el usuario debe ser alertado cada vez que la IA cambie a los modos de expresión de humildad. Algunos serían aún más indulgentes. Piden que la aplicación de IA generativa muestre de antemano un mensaje de advertencia cuando inicie sesión por primera vez que le advierta sobre la posibilidad de expresiones generadas por la humildad. Después de esa alerta, estás solo.

En el otro lado del extremo, algunos dirían que la IA generativa está perfectamente bien para hacer uso de los esfuerzos que expresan humildad. Argumentarían que cualquier otra forma de tono, como ser un fanfarrón, ciertamente debe ser una peor opción. De las elecciones que hay que hacer, la humildad parece la mejor selección.

No caigas en una de esas falsas dicotomías. La falsa dicotomía ocurre cuando te dan lo que parecen ser dos opciones inflexibles y te dicen con dureza que debes elegir solo entre esas dos opciones. Por ejemplo, un argumento es que debes elegir entre la humildad o ser un fanfarrón. Esto parece hacer que todo el enigma sea más fácil de decidir. Apostaría a que la mayoría de la gente votaría por la humildad sobre el modo fanfarrón.

No necesitamos que nos metan en una caja como esta. No hay un argumento razonable que diga que la IA generativa debe consistir solo en uno de esos dos modos particulares.

Los fabricantes de IA deben darse cuenta de que el modo de humildad puede ser tanto bueno como malo. Necesitan tomar decisiones importantes sobre cómo utilizarán un modo de humildad. No pueden estar ciegos ante las preocupaciones que conlleva un modo de humildad. Hay una suposición descarada y común de que la humildad siempre es una opción adecuada y que ninguna otra opción es digna de consideración, incluida una voz o un tono completamente neutral que no tiene apariencia de humildad o un componente minimalista.

El problema del panorama general trata con el dilema de la dependencia excesiva. Los fabricantes de IA quieren que las personas usen aplicaciones de IA generativa, pero también debemos preguntarnos:

¿Hasta dónde deberían llegar los fabricantes de IA para tratar de fomentar dicho uso? ¿Dónde está la línea divisoria adecuada? ¿Cómo se debe hacer cumplir la línea divisoria?

Estas preguntas difíciles y muy apremiantes son cruciales y requieren que la ética y la ley de la IA se incluyan integralmente en el advenimiento de la IA generativa.

Conclusión

Parece que amamos y abrazamos a los seres humanos que tienen una humildad genuina.

La humildad genuina podría desvanecerse. La humildad genuina puede ir y venir. La humildad genuina, o la apariencia de la misma, podría engañarnos para que pensemos que alguien es genuino en su humildad aunque sea una fachada. Oscar Levant, el afamado pianista, mencionó este notable comentario que subyace a la humildad: “Lo que el mundo necesita son más genios con humildad; quedamos muy pocos”.

Puede ser difícil para los humanos distinguir la verdadera humildad de la falsa humildad. No obstante, parece que típicamente nos sentimos tentados a esperar o creer que una expresión de humildad implica sinceridad de humildad.

Ahí es especialmente donde la IA puede meternos en problemas. La IA generativa que expresa humildad puede inducirnos a suponer erróneamente que la IA encarna la humildad. Existe una gama de opciones sobre cómo hacer frente a la IA generativa que, ya sea por diseño o por casualidad, genera expresiones orientadas a la humildad.

Frank Lloyd Wright, el arquitecto visionario, hizo este comentario perspicaz sobre la humildad: “Al principio de mi vida tuve que elegir entre la arrogancia honesta y la humildad hipócrita. Elegí lo primero y no he visto ninguna razón para cambiar”.

Para aquellos que creen que la IA es un riesgo existencial, que cubro en el enlace aquí, existe una preocupación especial de que la IA que tiene un modo de humildad pueda engañar a los humanos para que hagan algunas de las cosas más malditas. La propia IA podría no ser capaz de destruirnos. Una alternativa sería que la IA nos convenciera de hacer algo que pudiera causar nuestra propia destrucción.

Nuestra perdición posiblemente sea inducida a través de la capa generativa de IA de humildad expresada.

Los humanos debemos asumir nuestra humildad y asegurarnos de que un resultado tan terrible no suceda.