Uso seguro de ChatGPT: las implicaciones legales
A estas alturas, todos hemos estado inundados de artículos sobre cómo se puede usar ChatGPT. Las oportunidades son casi infinitas, desde escribir correos electrónicos más articulados hasta explorar fácilmente nuevos temas, crear sitios web y más. Pero, para una empresa comercial, ¿cuáles son las implicaciones legales de usar ChatGPT? En este artículo, brindo una descripción general de los problemas legales que cualquier empresa debe considerar al usar IA y, en particular, cómo ChatGPT (o cualquier otro modelo básico accesible en línea) plantea estos y, en algunos casos, nuevos problemas.
El panorama legal de la IA
El panorama legal para la IA está evolucionando rápidamente, al igual que cualquier situación en la que los gobiernos y las sociedades intenten ponerse al día con la tecnología de rápido movimiento. Los especialistas en ética han planteado inquietudes, y los gobiernos están abordando estas inquietudes y otras en todo, desde guías de mejores prácticas hasta leyes absolutas. Uno de los primeros ejemplos fue el "derecho a la explicación" en el RGPD, donde los consumidores afectados por una IA tienen derecho a solicitar una descripción de cómo funciona la IA. Los desarrollos más recientes incluyen la Declaración de derechos de IA del gobierno de EE. UU. y la Ley de IA de la Unión Europea.
Preocupaciones adicionales para las IA generativas
Las leyes anteriores se centran principalmente en garantizar que los sistemas de inteligencia artificial protejan la privacidad del usuario y los traten de manera justa y transparente. Las IA generativas plantean nuevos problemas. A diferencia de otros tipos de IA, las IA generativas "crean" contenido nuevo. Uso comillas porque si este contenido es realmente nuevo o simplemente una fusión probabilística de contenido existente es un tema de debate candente. De cualquier manera, ahora existen preguntas sobre quién posee la nueva propiedad intelectual creada por una IA, si una imagen de IA puede tener derechos de autor, etc.
Preocupaciones comerciales para ChatGPT (y servicios similares)
Ahora que estos servicios están disponibles en forma de API y están apareciendo innumerables aplicaciones que utilizan estas API, ¿a qué debe prestar atención su empresa?
Privacidad: si está utilizando una API en línea, asegúrese de que los datos que está pasando a esta API no incluyan nada que su cliente considere privado. Por ejemplo, si tiene un chatbot en su sitio web que en realidad es un envoltorio para una API de ChatGPT, su cliente está conversando con ChatGPT sin saberlo. Eso puede conducir a problemas de privacidad en el futuro.
Propiedad intelectual: ChatGPT puede escribir código. Si sus ingenieros lo usan para escribir código y ese código termina en su producto, es posible que su empresa no sea propietaria del código de su producto. Esto también es cierto para las IA generativas basadas en imágenes. Para limitar el riesgo comercial, debe conocer las opiniones legales sobre estos temas en cualquier región geográfica en la que opere su negocio (o socios). En el mundo globalizado de hoy, las leyes en cualquier parte del mundo son un factor para cualquier multinacional, independientemente de donde tiene su sede la empresa.
Problemas de sesgo: como todos los grandes modelos de IA, la gran cantidad de datos utilizados para el entrenamiento implica que los modelos pueden incluir muchas formas de sesgos ocultos que son muy difíciles de detectar. Si estos sesgos se abren paso en sus servicios, generarán un riesgo empresarial.
Regulación: algunas industrias fuertemente reguladas (como las finanzas y la atención médica) ya tienen reglas estrictas sobre qué IA se puede usar. La Ley de IA clasifica los productos impulsados por IA en diferentes niveles de riesgo y especifica los requisitos de revisión y prueba para cada uno. Dependiendo del producto o servicio para el que esté utilizando ChatGPT, se pueden aplicar diferentes niveles de escrutinio. Por ejemplo, la Unión Europea está actualmente involucrada en un debate sobre si ChatGPT viola la Ley de IA, y los reguladores de cada país adoptan una posición diferente.
Derecho a la explicación: algunas leyes requieren que las empresas brinden el derecho a la explicación, lo que significa que un usuario puede esperar una explicación comprensible para los humanos de cómo una IA tomó una decisión que lo afecta. Si bien la investigación sobre la explicabilidad avanza rápidamente, las explicaciones de estos grandes modelos de lenguaje siguen siendo un desafío.
¿Qué pasa si construyo mi propio modelo de lenguaje grande?
Tenga en cuenta que algunos de estos problemas seguirán ocurriendo si decide crear su propio modelo de lenguaje grande. Los problemas de privacidad no ocurrirán ya que no está compartiendo con una API externa y los problemas de propiedad intelectual tampoco deberían ocurrir. Los otros problemas, sin embargo, permanecerán.
Este es un espacio en evolución. Los modelos están cambiando rápidamente y las leyes que los rodean también están cambiando rápidamente. Las interpretaciones incluso de las leyes existentes están abiertas a debate, y hasta que se presenten casos judiciales y los jueces se vean obligados a hacer interpretaciones decisivas, es probable que el debate permanezca. El conocimiento de estos problemas y de cómo pueden afectar los productos y servicios de su empresa es un buen primer paso.
