La Comisión Federal de Comercio tiene como objetivo derribar esas afirmaciones infundadas de gran tamaño sobre la IA generativa ChatGPT y otra IA, advierte la ética de la IA y la ley de la IA

Baja el martillo.

Eso es lo que la Comisión Federal de Comercio (FTC, por sus siglas en inglés) dice que va a hacer con respecto al uso continuo y cada vez mayor de afirmaciones desmesuradas e infundadas sobre la inteligencia artificial (IA).

En una publicación de blog oficial del 27 de febrero de 2023, titulada "Mantenga sus reclamos de IA bajo control" por el abogado Michael Atleson de la División de Prácticas Publicitarias de la FTC, algunas palabras en conjunto señalaron que la IA no es solo una forma de alta tecnología computacional, sino se ha convertido en un premio mayor de marketing que a veces ha ido más allá del ámbito de la sensatez:

“¿Y qué es exactamente la 'inteligencia artificial' de todos modos? Es un término ambiguo con muchas definiciones posibles. A menudo se refiere a una variedad de herramientas y técnicas tecnológicas que utilizan la computación para realizar tareas como predicciones, decisiones o recomendaciones. Pero una cosa es segura: es un término de marketing. En este momento, es caliente. Y en la FTC, una cosa que sabemos acerca de los términos atractivos de marketing es que algunos anunciantes no podrán evitar usarlos en exceso y abusar de ellos” (publicación en el sitio web de la FTC).

La IA ofrece grandes posibilidades para los especialistas en marketing que realmente quieren volverse locos y exagerar cualquier producto o servicio subyacente aumentado o impulsado por IA que se venda a los consumidores.

Verá, la tentación de ir más allá de la hipérbole tiene que ser enorme, especialmente cuando un especialista en marketing ve que otras empresas hacen lo mismo. Los jugos competitivos exigen que hagas un clásico exagerado cuando tu competencia clama que su IA camina sobre el agua. Quizás su IA sea aparentemente mejor porque vuela en el aire, escapa de los límites de la gravedad y se las arregla para masticar chicle al mismo tiempo.

El brazo largo de la ley, a saber, la FTC y otras agencias federales, estatales y locales (consulte mi cobertura continua de tales esfuerzos, incluida la esfuerzos regulatorios también, en el enlace aquí).

Usted es potencialmente consciente de que, como agencia federal, la FTC abarca la Oficina de Protección al Consumidor, con el mandato de proteger a los consumidores de actos o prácticas considerados engañosos en entornos comerciales. Esto suele surgir cuando las empresas mienten o engañan a los consumidores sobre productos o servicios. La FTC puede ejercer su poderosa destreza gubernamental para aplastar a las empresas infractoras.

La publicación del blog de la FTC que cité también hizo este pronunciamiento algo picante:

“Los especialistas en marketing deben saber que, para fines de cumplimiento de la FTC, las afirmaciones falsas o sin fundamento sobre la eficacia de un producto son nuestro pan de cada día”.

En cierto sentido, aquellos que insisten en exagerar indebidamente sus afirmaciones sobre la IA pretenden ser un brindis. La FTC puede tratar de lograr que el reclamante de AI desista y potencialmente enfrentar sanciones severas por las transgresiones cometidas.

Estas son algunas de las acciones potenciales que la FTC puede tomar:

“Cuando la Comisión Federal de Comercio encuentra un caso de fraude perpetrado contra los consumidores, la agencia presenta acciones en la corte federal de distrito para obtener órdenes inmediatas y permanentes para detener las estafas; evitar que los estafadores cometan estafas en el futuro; congelar sus activos; y obtener compensación para las víctimas. Cuando los consumidores ven o escuchan un anuncio, ya sea en Internet, radio o televisión, o en cualquier otro lugar, la ley federal dice que un anuncio debe ser veraz, no engañoso y, cuando corresponda, respaldado por evidencia científica. La FTC hace cumplir estas leyes de veracidad en la publicidad y aplica los mismos estándares sin importar dónde aparece un anuncio: en periódicos y revistas, en línea, en el correo, o en vallas publicitarias o autobuses” (sitio web de la FTC según la sección sobre Veracidad en la publicidad). Publicidad)

Ha habido una serie de ejemplos de alto perfil relativamente recientes de la FTC persiguiendo incidentes de publicidad falsa.

Por ejemplo, L'Oreal se metió en problemas por anunciar que sus productos para el cuidado de la piel Paris Youth Code estaban "clínicamente probados" para hacer que las personas se vieran "visiblemente más jóvenes" y "potenciar los genes". evidencia científica y la FTC tomó medidas en consecuencia. Otro ejemplo destacado consistió en la publicidad de Volkswagen de que sus automóviles diésel utilizaban "diésel limpio" y, ergo, supuestamente emitían cantidades bastante bajas de contaminación. En este caso, las pruebas de emisiones que realizó Volkswagen se realizaron de manera fraudulenta para enmascarar sus verdaderas emisiones. La acción de aplicación de la FTC condujo a un acuerdo de compensación para los consumidores afectados.

La noción de que la IA también debería recibir un escrutinio similar según las afirmaciones sin fundamento o tal vez completamente fraudulentas es ciertamente una causa oportuna y valiosa.

Hay una manía pronunciada sobre la IA en este momento, alimentada por el advenimiento de la IA generativa. Este tipo particular de IA se considera generativo porque es capaz de generar resultados que casi parecen haber sido ideados por una mano humana, aunque la IA computacionalmente lo está haciendo. Una aplicación de IA conocida como ChatGPT por la compañía OpenAI ha atraído una inmensa atención y ha llevado la manía de la IA a la estratosfera. En un momento explicaré de qué se trata la IA generativa y describiré la naturaleza de la aplicación de IA ChatGPT.

Por supuesto, la IA en general ha existido por un tiempo. Ha habido una serie de subidas y bajadas de montaña rusa asociadas con las promesas de lo que la IA puede lograr. Se podría decir que estamos en un nuevo punto alto. Algunos creen que este es solo el punto de partida y que vamos más allá. Otros discrepan fervientemente y afirman que el gambito generativo de IA chocará contra una pared, es decir, pronto llegará a un callejón sin salida y la montaña rusa descenderá.

El tiempo dirá.

La FTC ha instado anteriormente a que las afirmaciones que cubran la IA deben ser adecuadamente equilibradas y razonables. En una publicación de blog oficial de la FTC del 19 de abril de 2021, titulada "Apuntando a la verdad, la justicia y la equidad en el uso de la IA por parte de su empresa", Elisa Jillson señaló las diversas formas en que surgen legalmente las acciones de cumplimiento y destacó especialmente las preocupaciones sobre la IA que imbuye sesgos indebidos. :

“La FTC tiene décadas de experiencia en la aplicación de tres leyes importantes para los desarrolladores y usuarios de IA”. “Sección 5 de la Ley de la FTC. La Ley FTC prohíbe las prácticas desleales o engañosas. Eso incluiría la venta o el uso de, por ejemplo, algoritmos racialmente sesgados”. “Ley de Informe Justo de Crédito. La FCRA entra en juego en ciertas circunstancias en las que se utiliza un algoritmo para negar a las personas empleo, vivienda, crédito, seguro u otros beneficios”. “Ley de Igualdad de Oportunidades de Crédito. La ECOA declara ilegal que una empresa utilice un algoritmo sesgado que resulte en discriminación crediticia por motivos de raza, color, religión, origen nacional, sexo, estado civil, edad o porque una persona recibe asistencia pública”.

Un comentario destacado en la publicación de blog antes mencionada menciona esta afirmación claramente dicha:

“Según la Ley de la FTC, sus declaraciones a clientes comerciales y consumidores deben ser veraces, no engañosas y respaldadas por evidencia” (ibíd.).

El lenguaje legal de la Sección 5 de la Ley de la FTC se hace eco de ese sentimiento:

“Los métodos desleales de competencia en el comercio o que lo afecten, y los actos o prácticas desleales o engañosos en el comercio o que lo afecten, se declaran ilegales” (fuente: Sección 5 de la Ley de la FTC).

Parece un alivio saber que la FTC y otras agencias gubernamentales mantienen los ojos abiertos y con un martillo colgando sobre las cabezas de cualquier organización que se atreva a emitir mensajes injustos o engañosos sobre la IA.

¿Significa todo esto que puede estar tranquilo y asumir que los fabricantes y promotores de IA serán cautelosos en sus afirmaciones de marketing sobre la IA y tendrán cuidado de no hacer exhortaciones exorbitantes o escandalosas?

Diablos no.

Puede esperar que los especialistas en marketing sean especialistas en marketing. Su objetivo será hacer afirmaciones desmesuradas e infundadas sobre la IA hasta el final de los tiempos. Algunos lo harán y no serán conscientes de que hacer tales afirmaciones puede causarles problemas a ellos y a su empresa. Otros saben que los reclamos podrían causar problemas, pero creen que las probabilidades de que los atrapen son escasas. Hay algunos que también están apostando a que pueden bordear el asunto y argumentar legalmente que no se deslizaron hacia las aguas turbias de ser mentirosos o engañosos.

Deje que los abogados se den cuenta de eso, dicen algunos especialistas en marketing de IA. Mientras tanto, a todo vapor adelante. Si algún día la FTC o alguna otra agencia gubernamental llama a la puerta, que así sea. El dinero a ganar es ahora. Quizá poner una porción de la antigua masa en una especie de fondo fiduciario para hacer frente a cuestiones legales posteriores. Por ahora, el tren del dinero está en marcha, y sería increíblemente tonto perderse la salsa fácil que se puede obtener.

Hay una gran cantidad de racionalizaciones sobre la publicidad de la IA hasta el final:

Todo el mundo hace afirmaciones extravagantes sobre la IA, por lo que también podríamos hacerlo. Nadie puede decir con certeza dónde está la línea divisoria con respecto a las verdades sobre la IA. Podemos redactar nuestras afirmaciones sobre nuestra IA para permanecer una pulgada o dos dentro de la zona de seguridad. El gobierno ganó. No nos damos cuenta de lo que estamos haciendo, somos un pez pequeño en un gran mar. Las ruedas de la justicia son tan lentas que no pueden seguir el ritmo de los avances de la IA. nosotros Los desarrolladores de IA en nuestra firma dijeron que podíamos decir lo que dije en nuestras afirmaciones de marketing. No deje que el equipo legal meta sus narices en estas cosas de IA que estamos pregonando, simplemente pondrán fin a nuestras estupendas campañas de marketing de IA y ser un palo proverbial en el barro Otro

¿Son esas racionalizaciones una receta para el éxito o una receta para el desastre?

Para los fabricantes de IA que no están prestando atención a estos serios y aleccionadores reparos legales, les sugiero que se dirigen hacia un desastre.

Al consultar con muchas empresas de inteligencia artificial a diario y semanalmente, les advierto que deben buscar asesoramiento legal convincente, ya que el dinero que están ganando hoy en día potencialmente se les devolverá y más aún una vez que se enfrenten a demandas civiles por parte de los consumidores. junto con la acción de ejecución gubernamental. Dependiendo de qué tan lejos vayan las cosas, las repercusiones criminales también pueden asentarse en las alas.

En la columna de hoy, abordaré las crecientes preocupaciones de que la exageración del marketing subyacente a la IA está cruzando cada vez más la línea y empeorando las prácticas desagradables y engañosas. Examinaré la base de estas dudas. Además, ocasionalmente esto incluirá referirse a aquellos que usan y aprovechan la aplicación de IA ChatGPT, ya que es el gorila de 600 libras de la IA generativa, aunque tenga en cuenta que hay muchas otras aplicaciones de IA generativa y generalmente se basan en los mismos principios generales.

Mientras tanto, es posible que se pregunte qué es la IA generativa.

Primero cubramos los fundamentos de la IA generativa y luego podemos echar un vistazo de cerca al asunto apremiante que nos ocupa.

En todo esto viene una gran cantidad de consideraciones sobre la ética y la ley de la IA.

Tenga en cuenta que se están realizando esfuerzos para imbuir los principios éticos de IA en el desarrollo y la implementación de aplicaciones de IA. Un contingente creciente de éticos de IA preocupados y antiguos está tratando de garantizar que los esfuerzos para diseñar y adoptar IA tengan en cuenta una visión de hacer IA para bien y evitar IA para mal. Del mismo modo, se han propuesto nuevas leyes de IA que se están promocionando como posibles soluciones para evitar que los esfuerzos de IA se vuelvan locos en materia de derechos humanos y similares. Para mi cobertura continua y extensa de la ética de la IA y la ley de la IA, vea el enlace aquí y el enlace aquí, solo por nombrar algunos.

Se persigue el desarrollo y la promulgación de preceptos éticos de IA para evitar que la sociedad caiga en una miríada de trampas que inducen a la IA. Para ver mi cobertura de los principios de ética de AI de la ONU, tal como fueron ideados y respaldados por casi 200 países a través de los esfuerzos de la UNESCO, consulte el enlace aquí. De manera similar, se están explorando nuevas leyes de IA para tratar de mantener la IA en equilibrio. Una de las últimas tomas consiste en un conjunto de propuestas de la Declaración de Derechos de la IA que la Casa Blanca de los EE. UU. publicó recientemente para identificar los derechos humanos en una era de IA, vea el enlace aquí. Se necesita un pueblo para mantener la IA y los desarrolladores de IA en el camino correcto y disuadir los esfuerzos encubiertos intencionales o accidentales que podrían socavar a la sociedad.

Entrelazaré consideraciones relacionadas con la ética de la IA y la ley de la IA en esta discusión.

Fundamentos de la IA generativa

La instancia más conocida de IA generativa está representada por una aplicación de IA llamada ChatGPT. ChatGPT surgió en la conciencia pública en noviembre cuando fue lanzado por la firma de investigación de IA OpenAI. Desde entonces, ChatGPT ha obtenido titulares descomunales y ha superado asombrosamente los quince minutos de fama asignados.

Supongo que probablemente hayas oído hablar de ChatGPT o tal vez incluso conozcas a alguien que lo haya usado.

ChatGPT se considera una aplicación de IA generativa porque toma como entrada un texto de un usuario y luego genera o produce una salida que consiste en un ensayo. La IA es un generador de texto a texto, aunque describo la IA como un generador de texto a ensayo, ya que eso aclara más fácilmente para qué se usa comúnmente. Puede usar la IA generativa para componer composiciones largas o puede hacer que emita comentarios breves y concisos. Todo está a tu disposición.

Todo lo que necesita hacer es ingresar un aviso y la aplicación AI generará para usted un ensayo que intenta responder a su aviso. El texto compuesto parecerá como si el ensayo hubiera sido escrito por la mano y la mente humana. Si ingresara un mensaje que dijera "Cuénteme sobre Abraham Lincoln", la IA generativa le proporcionará un ensayo sobre Lincoln. Hay otros modos de IA generativa, como texto a arte y texto a video. Me centraré aquí en la variación de texto a texto.

Su primer pensamiento podría ser que esta capacidad generativa no parece tan importante en términos de producción de ensayos. Puede realizar fácilmente una búsqueda en línea en Internet y encontrar toneladas y toneladas de ensayos sobre el presidente Lincoln. El truco en el caso de la IA generativa es que el ensayo generado es relativamente único y proporciona una composición original en lugar de una copia. Si intentara encontrar el ensayo producido por IA en línea en algún lugar, es poco probable que lo descubra.

La IA generativa está preentrenada y utiliza una formulación matemática y computacional compleja que se ha configurado mediante el examen de patrones en palabras e historias escritas en la web. Como resultado de examinar miles y millones de pasajes escritos, la IA puede arrojar nuevos ensayos e historias que son una mezcla de lo que se encontró. Al agregar varias funciones probabilísticas, el texto resultante es bastante único en comparación con lo que se ha utilizado en el conjunto de entrenamiento.

Existen numerosas preocupaciones sobre la IA generativa.

Una desventaja crucial es que los ensayos producidos por una aplicación de IA basada en generativos pueden tener incrustadas varias falsedades, incluidos hechos manifiestamente falsos, hechos que se describen de manera engañosa y hechos aparentes que son completamente inventados. Esos aspectos inventados a menudo se denominan una forma de alucinaciones de IA, un eslogan que no me gusta pero que lamentablemente parece estar ganando popularidad de todos modos (para mi explicación detallada sobre por qué esta es una terminología pésima e inadecuada, vea mi cobertura en el enlace aquí) .

Otra preocupación es que los humanos pueden atribuirse fácilmente el mérito de un ensayo generado por IA generativa, a pesar de no haberlo escrito ellos mismos. Es posible que haya escuchado que los maestros y las escuelas están bastante preocupados por la aparición de aplicaciones de inteligencia artificial generativa. Los estudiantes pueden potencialmente usar IA generativa para escribir sus ensayos asignados. Si un estudiante afirma que un ensayo fue escrito por su propia mano, hay pocas posibilidades de que el maestro pueda discernir si fue falsificado por IA generativa. Para mi análisis de esta faceta de confusión de estudiante y maestro, vea mi cobertura en el enlace aquí y el enlace aquí.

Ha habido algunas afirmaciones descabelladas en las redes sociales sobre la IA generativa que afirman que esta última versión de la IA es, de hecho, una IA sensible (¡no, están equivocados!). Los de Ética y Derecho de IA están especialmente preocupados por esta tendencia creciente de reclamos extendidos. Se podría decir cortésmente que algunas personas están exagerando lo que la IA actual puede hacer. Asumen que la IA tiene capacidades que aún no hemos podido lograr. Eso es lamentable. Peor aún, pueden permitirse a sí mismos y a otros meterse en situaciones difíciles debido a la suposición de que la IA será sensible o parecida a un humano para poder tomar medidas.

No antropomorfizar la IA.

Si lo hace, quedará atrapado en una trampa de dependencia pegajosa y severa de esperar que la IA haga cosas que no puede realizar. Dicho esto, lo último en IA generativa es relativamente impresionante por lo que puede hacer. Sin embargo, tenga en cuenta que existen limitaciones significativas que debe tener en cuenta continuamente al usar cualquier aplicación de IA generativa.

Una advertencia final por ahora.

Independientemente de lo que vea o lea en una respuesta generativa de IA que parezca transmitirse como puramente factual (fechas, lugares, personas, etc.), asegúrese de permanecer escéptico y esté dispuesto a verificar dos veces lo que ve.

Sí, las fechas se pueden inventar, los lugares se pueden inventar y los elementos que normalmente esperamos que sean irreprochables están sujetos a sospechas. No crea lo que lee y mantenga una mirada escéptica cuando examine cualquier ensayo o resultado de IA generativa. Si una aplicación de IA generativa te dice que Abraham Lincoln voló por todo el país en su jet privado, sin duda sabrás que esto es una tontería. Desafortunadamente, algunas personas pueden no darse cuenta de que los aviones a reacción no existían en su época, o pueden saber pero no darse cuenta de que el ensayo hace esta afirmación descarada y escandalosamente falsa.

Una fuerte dosis de escepticismo saludable y una mentalidad persistente de incredulidad serán su mejor activo cuando use IA generativa. Además, tenga cuidado con las posibles intrusiones en la privacidad y la pérdida de la confidencialidad de los datos; vea mi discusión en el enlace aquí.

Estamos listos para pasar a la siguiente etapa de esta elucidación.

La IA como la historia más grande jamás contada

Ahora profundicemos en las distorsiones que se cuentan sobre la IA.

Me centraré en la IA generativa. Dicho esto, prácticamente cualquier tipo de IA está sujeto a las mismas preocupaciones sobre la publicidad desleal o engañosa. Tenga en cuenta esta visión más amplia. Les digo esto a aquellos que son creadores de IA de cualquier tipo, asegurándome de que todos estén al tanto de estos asuntos y no se limiten solo a aquellos que crean aplicaciones de IA generativa.

Lo mismo se aplica a todos los consumidores. No importa qué tipo de IA esté considerando comprar o usar, tenga cuidado con las afirmaciones falsas o engañosas sobre la IA.

Estos son los temas principales que me gustaría tratar con ustedes hoy:

1) El quién es qué de las posibles falsedades de la IA 2) Los intentos de usar cláusulas de escape para evitar la responsabilidad de la IA 3) La FTC proporciona palabras útiles de precaución sobre la publicidad de la IA 4) La FTC también ofrece palabras de advertencia sobre los sesgos de la IA 5) Las acciones que necesita Para tomar sobre sus estrategias publicitarias de IA

Cubriré cada uno de estos temas importantes y propondré consideraciones perspicaces que todos deberíamos estar reflexionando atentamente. Cada uno de estos temas es una parte integral de un rompecabezas más grande. No se puede mirar una sola pieza. Tampoco puedes mirar ninguna pieza aisladamente de las otras piezas.

Este es un mosaico intrincado y todo el rompecabezas debe recibir una consideración armoniosa adecuada.

El quién es qué de las posibles falsedades de la IA

Es necesario hacer un punto importante de aclaración sobre los diversos actores o partes interesadas involucradas en estos asuntos.

Están los fabricantes de IA que diseñan el núcleo de una aplicación de IA generativa, y luego hay otros que se basan en la IA generativa para crear una aplicación que depende de la IA generativa subyacente. He discutido cómo el uso de API (interfaces de programación de aplicaciones) le permite escribir una aplicación que aprovecha la IA generativa, vea mi cobertura en el enlace aquí. Un buen ejemplo incluye que Microsoft ha agregado capacidades de inteligencia artificial generativa de OpenAI a su motor de búsqueda Bing, como lo he cubierto en profundidad en el enlace aquí.

Los posibles culpables de hacer afirmaciones engañosas o falsas sobre la IA pueden incluir:

Investigadores de IA Desarrolladores de IA Comercializadores de IA Fabricantes de IA que desarrollan IA central, como IA generativa Empresas que utilizan IA generativa en sus ofertas de software Empresas que confían en el uso de IA generativa en sus productos y servicios Empresas que confían en empresas que utilizan IA generativa en sus productos o servicios, etc.

Puede ver esto como una cadena de suministro. Cualquier persona involucrada en la IA a medida que avanza a lo largo del camino o el desafío de la IA que se está diseñando y desplegando puede proporcionar fácilmente afirmaciones engañosas o fraudulentas sobre la IA.

Aquellos que crearon la IA generativa pueden ser tiradores directos y resulta que aquellos otros que envuelven la IA generativa en sus productos o servicios son los que se vuelven diabólicos y hacen afirmaciones infundadas. Esa es una posibilidad.

Otra posibilidad es que los creadores de la IA sean los que hacen las afirmaciones falsas. Es probable que los otros que luego incluyan la IA generativa en sus productos repitan esas afirmaciones. En algún momento, podría resultar en un atolladero legal. Primero podría surgir un conflicto legal dirigido a la empresa que repitió los reclamos, de los cuales, a su vez, aparentemente señalarían con el dedo legal al fabricante de IA que inició la avalancha de reclamos. Las fichas de dominó comienzan a caer.

El punto es que las empresas que piensan que pueden confiar en las afirmaciones falsas de otros están destinadas a sufrir un duro despertar de que no necesariamente van a salir impunes debido a tal confianza. Sin duda, ellos también tendrán los pies puestos en el fuego.

Cuando llega el momento de la verdad, todo el mundo se ve envuelto en una fea y fangosa pelea legal.

Intentos de utilizar cláusulas de escape para evitar la responsabilidad de AI

Mencioné anteriormente que la Sección 5 de la Ley de la FTC proporciona lenguaje legal sobre las prácticas publicitarias ilegales. Hay varias lagunas legales que cualquier abogado astuto podría utilizar en beneficio de su cliente, presumiblemente con razón, si el cliente de hecho buscara anular o desviar lo que considera que es una acusación falsa.

Considere, por ejemplo, esta cláusula de la Sección 5:

“La Comisión no tendrá autoridad bajo esta sección o la sección 57a de este título para declarar ilegal un acto o práctica sobre la base de que dicho acto o práctica es desleal a menos que el acto o práctica cause o pueda causar un daño sustancial a los consumidores que es no es razonablemente evitable por los propios consumidores y no compensado por beneficios compensatorios para los consumidores o para la competencia. Al determinar si un acto o práctica es desleal, la Comisión podrá considerar las políticas públicas establecidas como prueba a ser considerada con todas las demás pruebas. Tales consideraciones de política pública pueden no servir como base principal para tal determinación” (fuente: Sección 5 de la Ley FTC).

Algunos han interpretado esa cláusula para sugerir que si, por ejemplo, una empresa publicitaba su IA y lo hacía de una manera aparentemente atroz, surge la pregunta de si la publicidad quizás pudo escapar del purgatorio siempre que los anuncios: (a) fallaron causar “daño sustancial a los consumidores”, (b) y de tal forma que “los propios consumidores pudieran evitarlo”, y (c) “no fue compensado por beneficios compensatorios para los consumidores o para la competencia”.

Imagina este caso de uso. Una empresa decide afirmar que su IA generativa puede ayudar a su salud mental. Resulta que la empresa ha creado una aplicación que incorpora la IA generativa de un popular fabricante de IA. La aplicación resultante se promociona como capaz de "ayudarlo a lograr la paz mental mediante la IA que interactúa con usted y alivia su alma angustiada".

Como nota al margen, he discutido los peligros de que la IA generativa se use como asesor de salud mental, vea mi análisis en el enlace aquí y el enlace aquí.

Volvamos al cuento. Supongamos que un consumidor se suscribe a la IA generativa que supuestamente puede ayudar a su salud mental. El consumidor dice que confió en los anuncios de la empresa que ofrece la aplicación de IA. Pero después de haber utilizado la IA, el consumidor cree que mentalmente no está mejor que antes. Para ellos, la aplicación de IA utiliza publicidad engañosa y falsa.

No profundizaré en las complejidades legales y simplemente usaré esto como un complemento útil (consulte a su abogado para obtener el asesoramiento legal adecuado). Primero, ¿sufrió el consumidor un “daño sustancial” como resultado del uso de la aplicación de IA? Un argumento es que no sufrieron un daño "sustantivo" y simplemente aparentemente no ganaron lo que pensaban que ganarían (un contraargumento es que esto constituye una forma de "daño sustantivo", etc.). En segundo lugar, ¿podría el consumidor haber evitado razonablemente tal perjuicio si se produjera un perjuicio? La supuesta defensa es que el consumidor no se vio obligado de alguna manera a usar la aplicación de IA y, en cambio, optó voluntariamente por hacerlo, además de que puede haber usado la aplicación de IA de manera inapropiada y, por lo tanto, socavado los beneficios anticipados, etc. En tercer lugar, ¿la aplicación de IA posiblemente tiene un valor o beneficio lo suficientemente sustancial para los consumidores que la demanda hecha por este consumidor es superada en su totalidad?

Puede esperar que muchos de los fabricantes de IA y aquellos que aumentan sus productos y servicios con IA afirmen que, independientemente de lo que hagan sus ofertas de IA o infundidas con IA, están brindando un beneficio neto a la sociedad al incorporar la IA. . La lógica es que si el producto o servicio beneficia a los consumidores, la adición de IA aumenta o refuerza esos beneficios. Ergo, incluso si hay algunas desventajas potenciales, las ventajas superan a las desventajas (suponiendo que las desventajas no sean desmesuradas).

Confío en que puede ver por qué los abogados son tan necesarios para quienes hacen o hacen uso de la IA.

La FTC brinda útiles palabras de precaución sobre la publicidad de IA

Volviendo a la publicación de blog de la FTC del 27 de febrero de 2023, hay algunas sugerencias bastante útiles para evitar el enigma de las afirmaciones publicitarias de IA fuera de los límites.

Aquí hay algunos puntos clave o preguntas planteadas en la publicación del blog:

"¿Estás exagerando lo que puede hacer tu producto de IA?" “¿Está prometiendo que su producto de IA hace algo mejor que un producto que no es de IA?” “¿Es usted consciente de los riesgos?” "¿El producto realmente usa IA?"

Analicemos brevemente algunas de esas preguntas puntuales.

Considere el segundo punto con viñetas sobre los productos de IA frente a un producto que no sea de IA comparable considerado. Es tentadoramente atractivo anunciar que su producto aumentado con IA es muchísimo mejor que cualquier producto comparable que no sea de IA. Puede hacer todo tipo de gestos salvajes durante todo el día simplemente alabando que, dado que la IA se incluye en su producto, debe ser mejor. Es decir, cualquier cosa comparable que no use IA es obviamente e inherentemente inferior.

Esto trae a colación el famoso eslogan legendario "¿Dónde está la carne?"

El énfasis es que si no tiene algo tangible y sustantivo para respaldar el reclamo, está en un terreno bastante blando y legalmente peligroso. Estás en arenas movedizas. Si se le solicita, deberá mostrar algún tipo de prueba suficiente o adecuada de que el producto con IA agregada es realmente mejor que el producto sin IA, suponiendo que esté haciendo tal afirmación. Esta prueba no debe ser un asunto revuelto después del hecho. Sería más prudente y seguro tener esto a mano de antemano, antes de hacer esas afirmaciones publicitarias.

En teoría, debería poder proporcionar una apariencia razonable de evidencia para respaldar tal afirmación. Por ejemplo, podría haber realizado una encuesta o prueba que involucre a aquellos que usan su producto agregado de IA en comparación con aquellos que usan un producto comparable que no es de IA. Este es un pequeño precio a pagar por enfrentar potencialmente una sanción inminente en el futuro.

Otra advertencia es que no haga el tipo de esfuerzos débiles para tratar de respaldar sus afirmaciones publicitarias sobre la IA. Lo más probable es que si ofrece un estudio que hizo de los usuarios de IA frente a los que no son usuarios de IA, será inspeccionado de cerca por otros expertos que intervienen. Podrían notar, por ejemplo, que tal vez puso su pulgar en la escala por la forma en que seleccionó a los que fueron encuestados o evaluados. O tal vez quiera pagar a los usuarios que usan IA para que promocionen lo bueno que es su producto. Todo tipo de engaño es posible. Dudo que quieras meterte en problemas dobles cuando se descubran esos artilugios furtivos.

Cambiando a uno de los otros puntos con viñetas, considere la cuarta viñeta que pregunta si la IA se está utilizando en absoluto en una circunstancia particular.

El enfoque rápido y sucio en estos días consiste en que los oportunistas optan por etiquetar cualquier tipo de software como que contiene o consiste en IA. También podría subirse al carro de la IA, dicen algunos. De alguna manera, pueden salirse con la suya porque la definición de IA es generalmente nebulosa y varía ampliamente, vea mi cobertura en la Ley de Bloomberg sobre la desconcertante cuestión legal de qué es la IA en el enlace aquí.

La confusión sobre qué es la IA potencialmente proporcionará una cobertura protectora, pero no es impenetrable.

Esto es lo que menciona el blog de la FTC:

“En una investigación, los tecnólogos de la FTC y otros pueden mirar debajo del capó y analizar otros materiales para ver si lo que hay dentro coincide con sus afirmaciones”.

En ese sentido, ya sea que esté utilizando o no "IA" para adherirse estrictamente a una elección de definición aceptada de IA, no obstante, estará sujeto a las afirmaciones hechas sobre cualquier cosa que se proclame que el software puede hacer.

Aprecié este comentario adicional que siguió al punto anterior en el blog de la FTC:

"Antes de etiquetar su producto como impulsado por IA, tenga en cuenta también que simplemente usar una herramienta de IA en el proceso de desarrollo no es lo mismo que un producto que tiene IA".

Ese es un punto sutil que muchos quizás no habrían considerado de otra manera. Esto es lo que sugiere. A veces, puede hacer uso de una pieza de software aumentada por IA al desarrollar una aplicación. La aplicación objetivo real no contendrá AI. Simplemente está utilizando AI para ayudarlo a crear la aplicación AI.

Por ejemplo, puede usar ChatGPT para generar código de programación para usted. El código que se produce no necesariamente tendrá ningún componente de IA. Su aplicación no será razonablemente elegible para afirmar que contiene IA per se (a menos, por supuesto, que opte por incluir algún tipo de técnica o tecnología de IA en ella). Posiblemente podría decir que usó IA para ayudar a escribir el programa. Incluso esto debe decirse con atención y cautela.

La FTC también ofrece palabras de advertencia sobre los sesgos de la IA

El blog de la FTC que mencioné aquí sobre el tema de los sesgos de la IA proporciona algunas advertencias útiles que creo que vale la pena tener en cuenta (las enumeraré en un momento).

Cuando se trata de IA generativa, hay cuatro preocupaciones principales sobre las trampas de las capacidades actuales:

Errores Falsedades AI Alucinaciones Sesgos

Echemos un breve vistazo a las preocupaciones sobre los sesgos de la IA.

Aquí está mi extensa lista de vías de sesgo que deben explorarse completamente para todas y cada una de las implementaciones generativas de IA (discutidas de cerca en el enlace aquí):

Sesgos en los datos obtenidos de Internet que se usaron para el entrenamiento de datos de la IA generativa Sesgos en los algoritmos de IA generativa utilizados para la coincidencia de patrones en los datos obtenidos Sesgos en el diseño general de IA de la IA generativa y su infraestructura Sesgos de la IA desarrolladores implícita o explícitamente en la configuración de los sesgos de IA generativa de los evaluadores de IA implícita o explícitamente en la prueba de los sesgos de IA generativa del RLHF (aprendizaje de refuerzo por retroalimentación humana) ya sea implícita o explícitamente por los revisores humanos asignados que imparten capacitación orientación a la IA generativa Sesgos de la facilitación de campo de la IA para el uso operativo de la IA generativa Sesgos en cualquier configuración o instrucciones predeterminadas establecidas para la IA generativa en su uso diario Sesgos incluidos intencionalmente o sin darse cuenta en las indicaciones ingresadas por el usuario de la IA generativa AI Sesgos de una condición sistémica frente a una aparición ad hoc como parte de la probabilidad aleatoria generación de salida por parte de la IA generativa Sesgos que surgen como resultado de ajustes sobre la marcha o en tiempo real o capacitación de datos que ocurren mientras la IA generativa está en uso activo Sesgos introducidos o ampliados durante el mantenimiento de la IA o el mantenimiento de la aplicación de IA generativa y su codificación de coincidencia de patrones Otro

Como puede ver, hay muchas formas en que los sesgos indebidos pueden colarse en el desarrollo y la implementación de la IA. Este no es un tipo de preocupación de una sola vez. Yo comparo esto con una situación de whack-a-mole. Debe ser diligente y en todo momento intentar descubrir y eliminar o mitigar los sesgos de IA en sus aplicaciones de IA.

Considere estos puntos juiciosos hechos en el blog de la FTC del 19 de abril de 2021 (estos puntos aún se aplican, independientemente de que sean antiguos en términos de escalas de tiempo de avance de IA):

“Comience con la base correcta” “Cuídese de los resultados discriminatorios” “Adopte la transparencia y la independencia” “No exagere lo que puede hacer su algoritmo o si puede ofrecer resultados justos o imparciales” “Diga la verdad sobre cómo usa los datos” “Haz más bien que mal” “Hazte responsable o prepárate para que la FTC lo haga por ti”

Uno de mis favoritos de los puntos anteriores es el cuarto de la lista, que se refiere a la afirmación o el mito que se usa con frecuencia de que, debido a la incorporación de IA, una aplicación determinada debe ser imparcial.

Así es como funciona.

Todos sabemos que los humanos son parciales. De alguna manera caemos en la trampa mental de que las máquinas y la IA pueden ser imparciales. Por lo tanto, si nos encontramos en una situación en la que podemos elegir entre usar un ser humano o una IA cuando buscamos algún tipo de servicio, podríamos sentirnos tentados a usar la IA. La esperanza es que la IA no sea parcial.

Esta esperanza o suposición puede reforzarse si el creador o el fildeador de la IA proclama que su IA es indudable e indiscutiblemente imparcial. Esa es la reconfortante guinda del pastel. Ya estamos listos para ser conducidos por ese camino de primavera. La publicidad cierra el trato.

El problema es que no hay ninguna garantía particular de que la IA sea imparcial. El fabricante de IA o el fildeador de IA podrían estar mintiendo sobre los sesgos de la IA. Si eso parece demasiado nefasto, consideremos que el fabricante de IA o el fildeador de IA pueden no saber si su IA tiene sesgos o no, pero deciden de todos modos hacer tal afirmación. Para ellos, esto parece una afirmación razonable y esperada.

El blog de la FTC indicó este ejemplo revelador: “Por ejemplo, supongamos que un desarrollador de IA les dice a los clientes que su producto proporcionará 'decisiones de contratación 100 % imparciales', pero el algoritmo se construyó con datos que carecían de diversidad racial o de género. El resultado puede ser el engaño, la discriminación y una acción de aplicación de la ley de la FTC” (ibíd.).

Las medidas que debe tomar con respecto a sus tácticas publicitarias de IA

Las empresas a veces se meten en problemas potenciales porque una mano no sabe lo que está haciendo la otra mano.

En muchas empresas, una vez que una aplicación de IA está lista para su lanzamiento, el equipo de marketing recibirá poca información sobre lo que hace la aplicación de IA. La línea clásica es que los detalles de la IA están por encima de sus cabezas y no son lo suficientemente expertos en tecnología para entenderlo. En esta brecha surge el potencial de la extravagante publicidad de IA. Los especialistas en marketing hacen lo que pueden, en función de cualquier bocado o cosita que se comparta con ellos.

No estoy diciendo que el lado de marketing fue engañado. Solo que a menudo hay una brecha entre el lado de desarrollo de IA de la casa y el lado de marketing. Por supuesto, hay ocasiones en las que el equipo de marketing es esencialmente engañado. Los desarrolladores de IA podrían presumir de capacidades de IA sobrehumanas proclamadas, para las cuales los especialistas en marketing probablemente no tengan una forma significativa de refutar o expresar precaución. Podemos considerar otras permutaciones calamitosas. Podría ser que los desarrolladores de IA fueran sinceros sobre las limitaciones de la IA, pero el lado de marketing optó por agregar algo de jugo al exagerar lo que la IA puede hacer. Ya sabes cómo es, esos técnicos de IA simplemente no entienden lo que se necesita para vender algo.

Alguien tiene que ser un árbitro y asegurarse de que los dos departamentos algo dispares tengan un acuerdo adecuado de mentes. La publicidad concebida deberá basarse en fundamentos de los que los desarrolladores de IA deberían poder proporcionar evidencia o prueba. Además, si los desarrolladores de IA están imbuidos de ilusiones y ya beben AI Kool-Aid, esto debe identificarse para que el equipo de marketing no se vea sorprendido por nociones demasiado optimistas e infundadas.

En algunas empresas, el papel de un Director de IA se ha planteado como una posible conexión para asegurarse de que el equipo ejecutivo en los niveles más altos esté considerando cómo se puede utilizar la IA dentro de la empresa y como parte de los productos y servicios de la empresa. Con suerte, este rol también serviría para unir el lado de la IA de la casa y el lado de marketing de la casa, codeándose con el jefe de marketing o el director de marketing (CMO). Vea mi discusión sobre este rol emergente, en el enlace aquí.

Hay que incluir otro papel muy importante en estos asuntos.

El lado legal de la casa es igualmente crucial. Un Director Legal (CLO) o un abogado principal o un abogado externo debe estar involucrado en los aspectos de la IA durante el desarrollo, el despliegue y la comercialización de la IA. Lamentablemente, el equipo legal suele ser el último en enterarse de tales esfuerzos de IA. Una empresa que recibe un aviso legal como resultado de una demanda o una investigación de una agencia federal se dará cuenta de repente de que tal vez la gente legal debería estar involucrada en sus implementaciones de IA.

Un enfoque más inteligente es incluir al equipo legal antes de que el caballo salga del establo. Mucho antes de que el caballo esté fuera del establo. Mucho, mucho antes. Para mi cobertura sobre IA y prácticas legales, vea el enlace aquí y el enlace aquí, por ejemplo.

Una publicación en línea reciente titulada "Risks Of Overselling Your AI: The FTC Is Watching" del bufete de abogados Debevoise & Plimpton (un bufete de abogados internacional reconocido a nivel mundial, con sede en la ciudad de Nueva York), escrito por Avi Gesser, Erez Liebermann, Jim Pastore, Anna R. Gressel, Melissa Muse, Paul D. Rubin, Christopher S. Ford, Mengyi Xu, y con una fecha de publicación del 6 de marzo de 2023, proporciona una indicación notablemente perspicaz de las acciones que las empresas deberían emprender sobre sus esfuerzos de IA.

Aquí hay algunos extractos seleccionados de la publicación del blog (la publicación completa está en el enlace aquí):

“1. Definición de IA. Considere crear una definición interna de lo que se puede caracterizar apropiadamente como IA, para evitar acusaciones de que la Compañía afirma falsamente que un producto o servicio utiliza inteligencia artificial, cuando simplemente usa un algoritmo o un modelo simple que no es de IA”. “2. Inventario. Considere crear un inventario de declaraciones públicas sobre los productos y servicios de IA de la empresa”. “3. Educación: eduque a sus equipos de cumplimiento de marketing sobre la orientación de la FTC y sobre los problemas con la definición de IA”. “4. Revisión: Considere tener un proceso para revisar todas las declaraciones públicas actuales y propuestas sobre los productos y servicios de IA de la empresa para asegurarse de que sean precisas, puedan corroborarse y no exageren ni prometan demasiado”. “5. Reclamaciones de proveedores: para los sistemas de IA que un proveedor proporciona a la empresa, tenga cuidado de no repetir simplemente las afirmaciones del proveedor sobre el sistema de IA sin garantizar su precisión”. “6. Evaluaciones de riesgos: para las aplicaciones de IA de alto riesgo, las empresas deben considerar realizar evaluaciones de impacto para determinar los riesgos previsibles y la mejor manera de mitigar esos riesgos, y luego considerar divulgar esos riesgos en declaraciones externas sobre las aplicaciones de IA”.

Habiendo sido un alto ejecutivo y un CIO/CTO global, sé lo importante que es el equipo legal para el desarrollo y la implementación de sistemas de IA internos y externos, incluso cuando se otorgan licencias o se adquieren paquetes de software de terceros. Especialmente con los esfuerzos de la IA. El equipo legal debe integrarse o al menos considerarse un aliado cercano y entrañable del equipo técnico. Hay una plétora de minas terrestres legales relacionadas con todas y cada una de las tecnologías y notablemente para la IA que una empresa decide construir o adoptar.

AI está hoy en día en la parte superior de la lista de posibles minas terrestres legales.

La combinación de los técnicos de IA con los gurús del marketing y con los abogados legales es la mejor oportunidad que tiene de hacer las cosas bien. Reúna a los tres, de forma continua y no tardía o única, para que puedan descubrir una estrategia de marketing y publicidad y una implementación que obtenga los beneficios de la implementación de IA. El objetivo es minimizar el espectro del brazo largo de la ley y las demandas judiciales costosas y perjudiciales para la reputación, al mismo tiempo que se maximiza la aclamación adecuadamente justa y equilibrada que la IA brinda sustancialmente.

El principio Goldilocks se aplica a la IA. Desea promocionar que la IA puede hacer grandes cosas, suponiendo que pueda y lo haga, demostrablemente respaldada por pruebas y pruebas bien diseñadas. No querrás rehuir inadvertidamente cualquier cosa que la IA agregue como valor. Esto socava las propiedades del aditivo AI. Y, en el otro extremo, ciertamente no desea hacer anuncios alocados y jactanciosos que se salgan de los rieles y hagan afirmaciones nefastas y abiertas a enredos legales.

La sopa tiene que estar a la temperatura adecuada. Lograr esto requiere chefs hábiles y expertos en inteligencia artificial del equipo técnico, el equipo de marketing y el equipo legal.

En una publicación reciente del bufete de abogados Arnold & Porter (un conocido bufete de abogados multinacional con sede en Washington, DC), Isaac E. Chao y Peter J. Schildkraut escribieron un artículo titulado “FTC Warns: All You Need To Know About AI You Learned In Kindergarten” (fecha de publicación del 7 de marzo de 2023, disponible en el enlace aquí), e hizo este énfasis de advertencia crucial sobre las responsabilidades legales asociadas con el uso de AI:

“En pocas palabras, no se deje llevar tanto por la magia de la IA que olvide los conceptos básicos. La publicidad engañosa expone a una empresa a la responsabilidad en virtud de las leyes federales y estatales de protección al consumidor, muchas de las cuales permiten derechos privados de acción además de la aplicación del gobierno. Los clientes engañados, especialmente los B2B, también pueden buscar daños y perjuicios en virtud de varias teorías contractuales y de responsabilidad civil. Y las empresas públicas tienen que preocuparse por las afirmaciones de la SEC o de los accionistas de que las afirmaciones no respaldadas eran importantes”.

Tenga en cuenta que incluso si su IA no está dirigida a los consumidores, no está axiomáticamente fuera de peligro en cuanto a posibles exposiciones legales. Los clientes que son empresas también pueden decidir que sus afirmaciones de IA los engañó falsamente o quizás de manera fraudulenta. Todo tipo de peligro legal puede surgir.

Conclusión

Mucha gente está esperando ver qué debacle relacionada con la publicidad de IA surge del frenesí de IA existente y creciente. Algunos creen que necesitamos un ejemplar del calibre de Volkswagen o un arquetipo de la estatura de L'Oréal para que todos se den cuenta de que los casos de afirmaciones escandalosamente infundadas sobre la IA no se van a tolerar.

Hasta que un alboroto legal lo suficientemente grande con respecto a una publicidad de IA fuera de los límites obtenga una atención generalizada en las redes sociales y en las noticias diarias, la preocupación es que la bonanza de IA que se jacta va a persistir. El marketing de la IA seguirá subiendo la escalera de la extravagancia. Más y más alto va esto. Cada próxima IA tendrá que superar a las anteriores.

Mi consejo es que probablemente no quieras ser el arquetipo y aterrizar en los libros de historia por haberte atrapado con la mano en el tarro de galletas de adorno de IA. No es un buen aspecto. Costoso. Posiblemente podría arruinar el negocio y las carreras asociadas.

¿Te atraparán?

Le insto a que, si es consciente de lo que hace, que lo atrapen no será una preocupación de pesadilla, ya que habrá realizado las debidas diligencias y podrá dormir en paz con la cabeza apoyada en la almohada.

Para aquellos de ustedes que no estén dispuestos a seguir ese consejo, dejaré la última palabra de este leve comentario de advertencia en el blog de la FTC del 27 de febrero de 2023: “Sea lo que sea que pueda o no pueda hacer, la IA es importante, y también lo son las afirmaciones que haces al respecto. No necesita una máquina para predecir lo que podría hacer la FTC cuando esas afirmaciones no están respaldadas”.

Bueno, supongo que uno podría usar la IA para ayudarlo a evitar la publicidad ilegal de la IA, pero esa es una narrativa para otro día. Solo tenga en cuenta que debe ser considerado y sincero acerca de su IA. Eso y asegurarse de que tiene los mejores beagles legales que brindan estridentemente su devota sabiduría legal en estos asuntos.