La prohibición de ChatGPT en Italia, ¿un precedente para el resto de Europa?

Después de que Italia se convirtiera en el primer país occidental en bloquear el chatbot avanzado ChatGPT el viernes por falta de transparencia en el uso de datos, la pregunta en Europa es: ¿quién seguirá?

La decisión ya ha inspirado a varios países vecinos.

“En el espacio de unos días, especialistas de todo el mundo y de un país, Italia, están tratando de frenar la progresión meteórica de esta tecnología, que es tan prodigiosa como preocupante”, escribe el diario francés Le Parisien.

Varias ciudades de Francia ya han iniciado su propia investigación "para evaluar los cambios provocados por ChatGPT y las consecuencias de su uso en el contexto de la acción local", informa Ouest-France.

La ciudad de Montpellier quiere prohibir ChatGPT para el personal municipal, como medida de precaución", informa el periódico. "El software ChatGPT debería prohibirse dentro de los equipos municipales considerando que su uso podría ser perjudicial".

La comisión irlandesa de protección de datos, según la BBC, está haciendo un seguimiento con el regulador italiano para comprender la base de su acción y "se coordinará con todas las autoridades de protección de datos de la UE (Unión Europea)" en relación con la prohibición.

También la Oficina del Comisionado de Información, el regulador de datos independiente del Reino Unido, le dijo a la BBC que "apoyaría" los desarrollos en IA pero que también estaba lista para "desafiar el incumplimiento" con la protección de datos. leyes

ChatGPT ya está bloqueado en varios países como China, Irán, Corea del Norte y Rusia.

La UE está en proceso de preparar la Ley de Inteligencia Artificial, legislación “para definir qué IA es probable que tenga consecuencias sociales”, explica Le Parisien. “Esta futura ley debería permitir, en particular, luchar contra los sesgos racistas o misóginos de los algoritmos y software de inteligencia artificial generativa (como ChatGPT)”.

La Ley de Inteligencia Artificial también contempla la designación de un regulador por país a cargo de la inteligencia artificial.

el caso italiano

La autoridad italiana de protección de datos explicó que estaba prohibiendo e investigando ChatGPT debido a problemas de privacidad relacionados con el modelo, que fue creado por la empresa emergente estadounidense OpenAI, una empresa respaldada por miles de millones de dólares en inversiones de Microsoft.

La decisión "con efecto inmediato" anunciada por la Autoridad Nacional Italiana para la Protección de Datos Personales se tomó porque "el robot ChatGPT no está respetando la legislación sobre datos personales y no tiene un sistema para verificar la edad de los usuarios menores, informó Le Point.

“La medida de la agencia, que es independiente del gobierno, convirtió a Italia en el primer país occidental en tomar medidas contra un chatbot impulsado por inteligencia artificial”, escribió Reuters.

El organismo de control italiano dijo que no solo bloquearía el chatbot de OpenAI, sino que también investigaría si cumplía con el Reglamento General de Protección de Datos de la UE.

Protección de menores

Agrega que la nueva tecnología "expone a los menores a respuestas absolutamente inadecuadas en comparación con su grado de desarrollo y conciencia".

El comunicado de prensa de la autoridad italiana explica además que el 20 de marzo, ChatGPT "sufrió una pérdida de datos ('violación de datos') sobre las conversaciones de los usuarios y la información relacionada con el pago de los suscriptores del servicio pago".

También señala “la ausencia de una base legal que justifique la recopilación y el almacenamiento masivo de datos personales con el fin de 'entrenar' los algoritmos que subyacen al funcionamiento de la plataforma”.

ChatGPT se presentó al público en noviembre y millones de usuarios lo adoptaron rápidamente, impresionados con su capacidad para responder claramente a preguntas difíciles, imitar estilos de escritura, escribir sonetos y trabajos e incluso aprobar exámenes. ChatGPT también se puede usar para escribir código de computadora sin tener conocimientos técnicos.

La moda en torno a ChatGPT

“Desde su lanzamiento el año pasado, ChatGPT ha desencadenado una moda tecnológica, lo que ha llevado a los rivales a lanzar productos y empresas similares para integrarlo o tecnologías similares en sus aplicaciones y productos”, escribe Reuters.

"OpenAI, que deshabilitó ChatGPT para los usuarios en Italia a raíz de la solicitud de la agencia, dijo el viernes que trabaja activamente para reducir el uso de datos personales en el entrenamiento de sus sistemas de IA como ChatGPT".

El organismo de control italiano ahora le pide a OpenAI que "comunique dentro de 20 días las medidas tomadas" para remediar esta situación, o arriesgarse a una multa de € 20 millones ($ 21,7 millones) o hasta el 4% de la facturación mundial anual, según Euronews.

El anuncio se produce cuando la agencia policial europea Europol advirtió el lunes que los delincuentes estaban listos para aprovechar los chatbots de IA como ChatGPT para cometer fraude y otros delitos cibernéticos.

Desde el phishing hasta la información errónea y el malware, es probable que las capacidades en rápida evolución de los chatbots sean rápidamente explotadas por aquellos con intenciones maliciosas, advirtió Europol en un informe.