10 amenazas que plantea el uso de IA para empresas y organizaciones

La noticia de esta semana de que Microsoft incluirá capacidades de IA en la barra de tareas de Bing en su sistema operativo Windows 11 muestra la rapidez con la que la tecnología emergente está disponible tanto para empresas como para particulares.

“Con la actualización, se podrá acceder a la herramienta de inteligencia artificial desde el cuadro de búsqueda de Windows, lo que permite a los usuarios acceder directamente a los archivos y configuraciones y realizar consultas web”, informó CNN.

Pero cómo, cuándo y por qué los líderes empresariales emplean la tecnología de inteligencia artificial tiene el potencial de crear una amplia gama de crisis para sus empresas y organizaciones.

Elon Musk, por su parte, parece tener sus dudas, si no preocupaciones, sobre la IA. Hablando ayer a los inversores sobre los planes de Tesla, dijo: "La IA me estresa" y que el gobierno federal debería regular la tecnología.

"Necesitamos algún tipo de autoridad reguladora o algo que supervise el desarrollo de la IA", dijo Musk. "Asegúrate de que esté operando en el interés público. Es una tecnología bastante peligrosa. Me temo que pude haber hecho algunas cosas para acelerarla".

“A medida que avanza la IA, las empresas se enfrentarán a una serie de riesgos legales y comerciales, en primer lugar, debido a que los malos actores aprovechan estas tecnologías para dañar a las empresas y, en segundo lugar, cuando las propias empresas deseen implementar chatbots u otras formas de IA en sus funciones”, Matthew F. Ferraro, un abogado de seguridad cibernética del bufete de abogados Wilmer Hale, dijo a través de un correo electrónico.

“Esta es una tecnología que evoluciona rápidamente, pero según lo que sabemos hasta ahora, hay diez riesgos legales y comerciales que las entidades de todo tipo deben tener en cuenta”, advirtió.

Ferraro dijo que existen daños y riesgos importantes por el uso de IA en las siguientes áreas que los líderes empresariales deben tener en cuenta en los próximos días.

“La información ingresada en AI, incluidas las indicaciones que hacen preguntas a los chatbots, debe considerarse pública, no privada. Esto se debe a que los chatbots pueden usar los datos que ingieren para desarrollar y mejorar sus servicios.

"Las empresas deben tener cuidado al ingresar información de solicitudes de chatbot de clientes, clientes o socios que está sujeta a limitaciones de confidencialidad contractuales u otros controles".

“Los chatbots pueden crear malware y hacerse pasar por conversaciones similares a las humanas que pueden usarse para phishing y estafas en las redes sociales”.

“Las herramientas de IA pueden recopilar datos personales, que pueden compartirse con terceros, lo que podría violar las leyes de privacidad de datos”.

“El uso de IA, incluidos los chatbots, para engañar a los consumidores puede violar las leyes que prohíben las prácticas comerciales desleales y engañosas”.

“Los resultados de la IA pueden estar sesgados en contra de ciertos grupos debido a la naturaleza sesgada de los datos en los que se entrenan las herramientas de IA. Los reguladores de EE. UU., incluida la Casa Blanca y la Comisión Federal de Comercio, enfatizan el uso de la IA de manera responsable y no discriminatoria”.

“Los chatbots pueden crear información falsa a escala en un inglés conversacional creíble, incluso si el usuario no habla con tanta fluidez”.

“Las empresas deben asegurarse de que su uso de la IA se alinee con las obligaciones éticas, en particular las impuestas por las organizaciones profesionales. Por ejemplo, el uso de IA para representar a clientes puede constituir una práctica no autorizada de la ley”.

“Los contratos gubernamentales requieren franqueza por parte de los contratistas. Los contratistas deben ser transparentes sobre el uso de la IA para evitar engañar al gobierno”.

“El uso de la IA generativa plantea muchos tipos diferentes de riesgos de propiedad intelectual. El material introducido en la IA puede estar protegido por los titulares de derechos. Y, en general, no está claro quién es el propietario de la IP generada por la IA. El litigio en esta área está en curso”.

“Los chatbots pueden producir declaraciones falsas pero autoritarias. Las empresas que utilizan chatbots deben validar las respuestas antes de confiar en ellas para tomar decisiones comerciales”.

Antes de adoptar por completo la IA y exponer a sus organizaciones a estos y otros desencadenantes de crisis, los ejecutivos deben considerar avanzar con esta nueva herramienta tecnológica de manera cuidadosa y cautelosa.

Tomar medidas de precaución

“Las empresas pueden prepararse para la IA tomando medidas de precaución”, dijo en un comunicado Charlotte Adams, directora de personal de Overnight Jobs, un sitio web de búsqueda de empleo y asesoramiento profesional.

“Primero, necesitan identificar las áreas de su negocio donde la IA puede ser más efectiva y beneficiosa y desarrollar una estrategia clara para integrar la IA en esas áreas”, aconsejó.

“También deben asegurarse de que su infraestructura de datos sea capaz de respaldar iniciativas de IA invirtiendo en tecnologías como computación en la nube, análisis de datos y herramientas de aprendizaje automático. Deben comenzar poco a poco implementando IA en algunas áreas del negocio y expandir gradualmente su uso con el tiempo”, aconsejó Adams.

“Deben asegurarse de que sus empleados estén capacitados para trabajar junto con las tecnologías de IA y comprender cómo se puede usar la IA para complementar su trabajo. Finalmente, deben ser conscientes de las implicaciones éticas de la IA y desarrollar políticas y pautas que aseguren el uso responsable de la IA en sus operaciones comerciales.

“Al tomar estos pasos, las empresas pueden prepararse para la integración de la IA y cosechar los beneficios de una mayor eficiencia, productividad e innovación”, concluyó.

Ferraro dijo que hay pasos que las empresas pueden tomar para ayudar a minimizar los peligros y amenazas del uso de IA.

“Tenga cuidado con el uso desordenado de la IA por parte de los empleados comerciales. Implementar políticas para proteger la confidencialidad de la información protegida por contrato”, recomendó. “Cumplir con las regulaciones y opciones de privacidad de datos que permiten a los usuarios eliminar o proteger su información para que no se comparta con terceros, [y] ser transparente con los clientes, empleados y socios sobre el uso de IA o chatbots”.

Ferraro dijo que los ejecutivos corporativos deben “planificar los peligros de la desinformación de manera proactiva, comunicar los mensajes de la empresa, monitorear las marcas corporativas en línea y estar preparados para responder en caso de un incidente”.