No, Zoom no está robando sus datos. Este es el por qué.

En una semana vertiginosa de desarrollos para Zoom, la especulación sobre problemas de privacidad relacionados con los términos de servicio (TOS) de la compañía ha generado preocupaciones, junto con cierto pánico, sobre cómo utiliza los datos de los clientes para entrenar modelos de IA. Esto hace eco de preocupaciones más amplias sobre la privacidad y la seguridad de los datos en todo el panorama de la comunicación digital. Además, es otro caso en el que surgen preguntas sobre el manejo de la IA tan rápido como avanza la tecnología de la IA.

La noticia de última hora aquí al final de la semana es que la reacción violenta llevó a Zoom a cambiar sus TOS para evitar por completo el problema de la recopilación de datos para la IA. Desempaquemos lo que pasó.

El nivel de vitriolo en el ejemplo de Zoom no ha sido trivial. Algunos líderes de la industria criticaron públicamente a Zoom por manejar mal esta situación, lo cual es comprensible. Zoom ha estado en el lado equivocado de las barandillas de privacidad de datos antes. Se descubrió que la empresa, que creció a un ritmo astronómico durante la pandemia, tergiversó el uso de ciertos protocolos de encriptación, lo que condujo a un acuerdo con la FTC en 2021. Esa es la parte específica de Zoom. Pero la compañía también está siendo condenada como un ejemplo más en la letanía de malos actores en la gran tecnología, donde las demandas e investigaciones sobre prácticas de datos son innumerables. No sorprende que el público asuma lo peor, especialmente dada su inquietud adicional sobre el futuro de la IA.

Me parece bien. Nadie puso a Zoom en ese fuego cruzado. No obstante, sigue siendo cierto que los fabricantes de software deben lograr un delicado equilibrio entre la protección de los datos del usuario y el avance tecnológico. Sin la protección de los datos de los usuarios, la reputación de cualquier empresa se verá afectada y los clientes se irán en masa; sin embargo, sin avances tecnológicos, ninguna empresa atraerá nuevos clientes ni seguirá satisfaciendo las necesidades de los que ya tiene. Por lo tanto, debemos examinar estas preocupaciones, sobre Zoom y de manera más amplia, para arrojar luz sobre las disposiciones y salvaguardas matizadas que dan forma al uso de datos de una plataforma y sus iniciativas de IA.

La opinión de un analista sobre Zoom

Por pura coincidencia, la semana pasada, otros 20 analistas de la industria y yo pasamos tres días con el liderazgo senior de Zoom en Silicon Valley. Durante este evento a puertas cerradas, que Zoom organiza todos los años para obtener comentarios sin adornos de los analistas, obtuvimos una mirada en profundidad a las operaciones de Zoom, desde finanzas hasta productos y marketing, adquisiciones, inteligencia artificial y más. Mucho de lo que aprendimos fue bajo NDA, pero salí no solo con una perspectiva positiva sobre el futuro de Zoom, sino también con un respeto más profundo por su equipo de liderazgo y una admiración por su cultura y ethos.

Vale la pena señalar que tuvimos acceso completo a los ejecutivos todo el tiempo, sin que ninguna persona de relaciones públicas de su lado intentara controlar la narrativa. Puedo decirles por experiencia que este tipo de acceso sin restricciones es raro.

También debe saber que los analistas son un grupo difícil. Cuando tenemos este tipo de acceso privado a altos ejecutivos e información no pública de la empresa, hacemos las preguntas más difíciles, las preguntas incómodas, y hacemos agujeros en las respuestas. Comparé notas con Patrick Moorhead, director ejecutivo y analista principal de Moor Insights & Strategy, que cubrió Zoom durante años y asistió a muchas reuniones como esta. Él y yo no pudimos pensar en un analista con conocimiento sobre el liderazgo y las operaciones de Zoom cuya opinión sobre la empresa se haya agriado debido al furor sobre los TOS.

Aún así, teníamos la intención de obtener más información, por lo que Moorhead y yo solicitamos una reunión con miembros clave de la suite C de Zoom para comprender mejor lo que estaba sucediendo con los TOS. Tuvimos esa reunión a mitad de semana, pero antes de que pudiéramos terminar este análisis, nuestras ideas se complementaron con una publicación de LinkedIn sorprendentemente vulnerable del CEO de Zoom, Eric Yuan. En esa publicación, dijo que Zoom nunca entrenaría modelos de IA con el contenido de los clientes sin un consentimiento explícito. Prometió que Zoom no entrenaría sus modelos de IA utilizando "audio, video, chat, pantalla compartida, archivos adjuntos y otras comunicaciones como resultados de encuestas, pizarra y reacciones" del cliente.

¿Qué pasó con el cambio de los términos de servicio de Zoom?

En marzo de 2023, Zoom actualizó sus TOS "para ser más transparentes sobre cómo usamos y quién posee las diversas formas de contenido en nuestra plataforma". Recordando que Zoom está bajo los mandatos de la FTC para divulgaciones de seguridad, este tipo de franqueza tiene sentido. En lo que se equivocó la empresa fue en hacer este cambio en silencio y sin una definición clara de cómo Zoom usaría los datos para entrenar la IA.

En nuestras conversaciones con Zoom esta semana, la empresa se hizo cargo de esa falta de comunicación. No creo que la compañía estuviera tratando de ocultar nada u obtener algo de los usuarios. De hecho, muchas de las disposiciones de los TOS no afectan actualmente a la gran mayoría de los clientes de Zoom. Al ser tan proactiva, la empresa, sin darse cuenta, se adelantó demasiado, lo que provocó una alarma innecesaria entre muchos clientes que nunca se vieron afectados por el problema de los datos de capacitación de IA.

Una vez que comenzó el pánico (comprensible), Zoom lanzó una versión actualizada de sus TOS, junto con una publicación de blog que explica los cambios del director de producto de la compañía, Smita Hashim. Hashim aclaró que Zoom está autorizado a usar el contenido del cliente para desarrollar servicios de valor agregado, pero que los clientes siempre conservan la propiedad y el control de su contenido. También enfatizó la redacción agregada a los TOS: "Sin perjuicio de lo anterior, Zoom no utilizará Contenido de cliente de audio, video o chat para entrenar nuestros modelos de inteligencia artificial sin su consentimiento".

El día después de que Zoom publicara su publicación de blog explicando los cambios de TOS, Yuan abordó la falla de comunicación y los planes de la compañía para entrenar IA de manera más directa y sobria. El CEO asumió la responsabilidad en su mea culpa de LinkedIn, diciendo que la compañía tuvo una falla en el proceso interno. La publicación en su página personal abordó las preocupaciones de los usuarios, similar a la publicación del blog oficial de Zoom, pero Yuan enfatizó la promesa de no entrenar a la IA con los datos de los clientes con una declaración audaz. Escribió: "Es mi creencia fundamental que cualquier empresa que aproveche el contenido del cliente para entrenar su IA sin el consentimiento del cliente estará fuera del negocio de la noche a la mañana".

Al final de la semana, Zoom consolidó el compromiso de Yuan de no usar los datos de los clientes para entrenar la IA y emitió un TOS revisado, a partir del 11 de agosto de 2023. La publicación del blog de Hashim también se actualizó con una nota del editor que reitera la política de IA de Zoom. Además, la empresa realizó cambios inmediatos en el producto.

¿Esto satisfará a todos los que creen que Zoom roba su información y no se puede confiar? Tal vez no. Sin embargo, con todo esto en mente, echemos un vistazo claro a los diferentes aspectos de cómo Zoom usa los datos.

Cómo utiliza Zoom los datos de los clientes

Primero, distingamos entre los dos tipos de datos abordados en los TOS de Zoom. Zoom puede recopilar dos categorías de datos: "datos generados por el servicio", que incluyen telemetría, diagnóstico y datos similares, y "contenido del cliente", como grabaciones de audio o transcripciones de chat generadas por el usuario.

Zoom es propietario de los datos generados por el servicio, pero la compañía dice que solo se usa para mejorar el servicio. Mientras tanto, el contenido de video, audio, chat y cualquier archivo compartido dentro de las cuatro paredes virtuales, es decir, el contenido del cliente, de cualquier reunión de Zoom es propiedad exclusiva del usuario. Zoom tiene derechos limitados para usar esos datos para brindar el servicio en primer lugar (como en el ejemplo a continuación) o con fines legales o de seguridad.

Los derechos de uso descritos en los TOS para reuniones se utilizan para proteger la plataforma de posibles reclamos de derechos de autor. Estos derechos protegen la infraestructura y el funcionamiento de la plataforma de Zoom, lo que permite a la empresa administrar y almacenar archivos en sus servidores sin infringir la propiedad del contenido.

Aquí hay un ejemplo: una banda de música en ciernes usa la plataforma para tocar música para sus amigos. Zoom, solo por la naturaleza de cómo funciona el servicio, debe cargar y almacenar ese audio en los servidores de la empresa (entre otros procesos) para entregar esa canción, que se considera propiedad intelectual, a los participantes en la plataforma. Si Zoom no tiene los derechos para hacerlo, esa banda, su futura administración, su sello discográfico o cualquier persona que posea esa IP técnicamente podría demandar a Zoom por poseer esa IP en sus servidores.

Esto puede parecer un caso de uso marginal, y es poco probable que se sostenga en los tribunales, pero no es inaudito y expondría a la empresa o a cualquier futuro propietario de la empresa a un riesgo legal.

¿Zoom está usando sus datos para entrenar modelos de IA?

Después de los cambios de esta semana en los TOS, la respuesta a esta pregunta ahora es un rotundo No. Cuando Zoom IQ Meeting Summary y Zoom IQ Chat Compose se introdujeron recientemente a modo de prueba, utilizaron IA para elevar la experiencia de Zoom con resúmenes de reuniones automatizados y Composición de chat asistida por IA. Pero como publicamos este artículo el 11 de agosto, Zoom dice que ya no usa ningún dato de los clientes para entrenar modelos de IA, ya sea propios o de terceros. Sin embargo, para comprender mejor la serie de eventos, expondré cómo la empresa manejó previamente la capacitación de modelos.

Los propietarios y administradores de cuentas recibieron control total sobre la habilitación de las funciones de IA. La forma en que Zoom IQ manejó los datos durante la prueba gratuita se abordó de manera transparente en esta publicación de blog, que se publicó mucho antes de que surgieran las preocupaciones más amplias sobre la recopilación de datos y el entrenamiento del modelo de IA. (La publicación ahora se actualizó para reflejar la política aclarada sobre el manejo de datos de clientes).

Cuando se introdujo Zoom IQ, la recopilación de datos para entrenar los modelos de inteligencia artificial de Zoom se hizo opcional en función de la elección activa de los usuarios y los invitados. Al igual que con las notificaciones de grabación que son familiares para la mayoría de los usuarios, el proceso de Zoom notificó a los participantes cuando se estaban utilizando sus datos, y la notificación tuvo que ser reconocida para que un usuario continuara con la acción deseada. Aparte de la recopilación de datos para IA, Zoom me dijo esta semana que el producto alerta a los usuarios si el anfitrión incluso ha habilitado una función de IA generativa como el Resumen de la reunión.

Los datos del usuario se recopilaron para mejorar las capacidades de los modelos de IA y la experiencia general del usuario. Dado el último cambio en los TOS, no está claro cómo Zoom planea entrenar sus modelos de IA ahora que no tendrá datos de clientes para trabajar.

Hasta esta semana, así es como se veía la suscripción dentro del producto Zoom.

Y así es como se ve a partir del 11 de agosto de 2023.

Cómo los propietarios y administradores de cuentas habilitan y controlan ahora Zoom IQ para la función Resumen de reuniones

Zoom

El enfoque de IA federada de Zoom integra varios modelos de IA, incluido el propio, junto con los de empresas como Anthropic y OpenAI, así como modelos de clientes seleccionados. Esta adaptabilidad permite que Zoom adapte las soluciones de IA a las demandas comerciales individuales y las preferencias de los usuarios, incluida la forma en que se entrenan los modelos.

La regulación responsable de la IA requerirá mucho tiempo. Los legisladores han admitido estar rezagados en la rápida adopción de la IA, ya que los pioneros de la industria, como OpenAI, han pedido al Congreso que regule la tecnología. En el período actual de autorregulación, el modelo de IA de la empresa prioriza la seguridad, la interpretabilidad y la maniobrabilidad. Opera dentro de las restricciones de seguridad establecidas y las pautas éticas, lo que permite la formación con parámetros bien definidos para la toma de decisiones.

El resultado final: Zoom está usando sus datos, pero no de manera aterradora

En medio de las preocupaciones generalizadas sobre la privacidad y la seguridad de los datos, creo que el enfoque de Zoom se basa en el control y la transparencia del usuario, algo reforzado por los cambios de esta semana en los TOS. Hay disposiciones matizadas dentro de los TOS de Zoom que le permiten tomar las medidas necesarias para operar la plataforma. Los eventos de esta semana han resaltado la necesidad de que Zoom comunique de manera activa y pública lo que creo que ya están priorizando internamente.

A medida que la tecnología, y la IA en particular, evoluciona, fomentar un diálogo abierto sobre el uso de datos y la privacidad será fundamental para preservar (o, en algunos casos, reconstruir) la confianza entre los usuarios de Zoom. Esta semana ha demostrado que la gente todavía está muy asustada con respecto a la IA, y con razón. Todavía hay muchas incógnitas sobre la IA, pero la evaluación de Moor Insights & Strategy es que Zoom está bien posicionado para ofrecer de forma segura un amplio conjunto de soluciones de IA personalizadas para sus usuarios. Zoom ha establecido que tiene la intención de hacerlo sin utilizar el contenido del cliente para entrenar sus modelos de IA. A medida que la empresa aborda las inquietudes sobre la privacidad de los datos, espero que pueda encontrar un equilibrio para satisfacer las inquietudes de los usuarios mientras avanza en la tecnología para satisfacer sus necesidades comerciales.

Es cierto que la compañía tuvo un paso en falso operativo. No confundamos eso con intención censurable. Zoom como organización y su CEO personalmente han reconocido las preocupaciones de sus clientes y han realizado los ajustes necesarios a los TOS que reflejan con precisión la gobernanza de seguridad y privacidad de datos sensibles de Zoom. Ahora espero ver que Zoom vuelva a centrarse en conectar a millones de personas en todo el mundo, brindando soluciones para reuniones, centros de contacto y más para hacer que las personas y las reuniones sean más significativas y productivas.