Ні, Zoom не краде ваші дані. Ось чому.

Під час бурхливого тижня розробок Zoom припущення про проблеми конфіденційності, пов’язані з умовами обслуговування компанії (TOS), викликали занепокоєння — разом із певною панікою — щодо того, як компанія використовує дані клієнтів для навчання моделей ШІ. Це перегукується з ширшими занепокоєннями щодо конфіденційності та безпеки даних у сфері цифрових комунікацій. Крім того, це ще один випадок, коли питання щодо роботи зі ШІ виникають так швидко, як розвиваються технології ШІ.

Головна новина наприкінці тижня полягає в тому, що негативна реакція змусила Zoom змінити свої TOS, щоб взагалі уникнути проблеми збору даних для ШІ. Давайте розберемо, що сталося.

Рівень купоросу в прикладі Zoom не був тривіальним. Деякі лідери галузі публічно звинуватили Zoom у неправильному поводженні з цією ситуацією, що цілком зрозуміло. Раніше Zoom був на неправильному боці захисту конфіденційності даних. Виявилося, що компанія, яка зростала астрономічними темпами під час пандемії, спотворила інформацію про використання певних протоколів шифрування, що призвело до мирової угоди з FTC у 2021 році. Це частина, що стосується Zoom. Але компанію також засуджують як ще один приклад у переліку поганих діячів у великих технологіях, де незліченна кількість судових позовів і розслідувань щодо використання даних. Не дивно, що громадськість припускає найгірше, особливо враховуючи її додаткове занепокоєння щодо майбутнього ШІ.

Досить справедливо. Ніхто не ставив Zoom у той перехресний вогонь. Тим не менш, виробники програмного забезпечення повинні знайти тонкий баланс між захистом даних користувачів і технологічним прогресом. Без захисту даних користувачів репутація будь-якої компанії буде під ударом, а клієнти масово залишатимуть; однак без технологічного прогресу жодна компанія не зможе залучити нових клієнтів або продовжувати задовольняти потреби тих, хто вже має. Тому нам потрібно вивчити ці проблеми — щодо Zoom і ширше — щоб пролити світло на нюанси положень і заходів безпеки, які визначають використання даних платформою та її ініціативи ШІ.

Погляд аналітика на Zoom

За чистим збігом минулого тижня ми з приблизно 20 іншими галузевими аналітиками провели три дні з вищим керівництвом Zoom у Кремнієвій долині. Під час цієї закритої події, яку Zoom проводить щороку, щоб отримати чисті відгуки від аналітиків, ми детально ознайомилися з діяльністю Zoom, від фінансів до продуктів і маркетингу, придбань, ШІ тощо. Багато чого з того, що ми дізналися, було в рамках NDA, але я пішов із не лише позитивним поглядом на майбутнє Zoom, а й із глибокою повагою до її команди лідерів і захопленням її культурою та духом.

Варто зазначити, що ми весь час мали повний доступ до керівників, без жодних піарників з їхнього боку, які намагалися контролювати розповідь. Я можу сказати вам з досвіду, що такий необмежений доступ зустрічається рідко.

Ви також повинні знати, що аналітики – це жорстка група. Коли ми маємо такий приватний доступ до топ-менеджерів і закритої інформації про компанії, ми ставимо найскладніші запитання — незручні запитання — і робимо діри у відповідях. Я порівняв нотатки з Патріком Мурхедом, генеральним директором і головним аналітиком Moor Insights & Strategy, який роками висвітлював Zoom і відвідував багато таких зустрічей, як ця. Ми з ним не могли пригадати жодного аналітика, обізнаного з керівництвом і діяльністю Zoom, чия думка була б поганою щодо компанії через обурення щодо TOS.

Тим не менш, ми мали намір дізнатися більше, тому ми з Мурхедом запросили зустріч із ключовими членами команди Zoom, щоб краще зрозуміти, що відбувається з Умовами використання. Ми провели цю зустріч у середині тижня, але ще не встигли закінчити цей аналіз, як наші думки були доповнені надзвичайно вразливим дописом у LinkedIn від генерального директора Zoom Еріка Юаня. У цій публікації він сказав, що Zoom ніколи не навчатиме моделі ШІ за допомогою контенту клієнтів без явної згоди. Він пообіцяв, що Zoom не буде навчати свої моделі штучного інтелекту за допомогою «аудіо, відео, чату, спільного доступу до екрана, вкладень та інших повідомлень, таких як результати опитування, дошка та реакції».

Що сталося зі зміною умов використання Zoom?

У березні 2023 року Zoom оновила свої умови використання, «щоб бути більш прозорими щодо того, як ми використовуємо та хто володіє різними формами вмісту на нашій платформі». Пам’ятаючи, що Zoom відповідає мандатам FTC щодо розкриття інформації про безпеку, така відвертість має сенс. Компанія помилилася, здійснивши ці зміни тихо й без чіткого визначення того, як Zoom використовуватиме дані для навчання ШІ.

У наших дискусіях із Zoom цього тижня компанія взяла на себе повну відповідальність за відсутність зв’язку. Я не вірю, що компанія намагалася щось приховати або отримати щось від користувачів. Фактично, багато положень Умов використання зараз не впливають на переважну більшість клієнтів Zoom. Будучи настільки проактивним, компанія ненавмисно випередила себе, що викликало непотрібну тривогу серед багатьох клієнтів, яких ніколи не торкалася проблема даних навчання ШІ.

Після того, як почалася (зрозуміла) паніка, Zoom випустив оновлену версію своїх TOS разом із дописом у блозі, в якому пояснюється зміни від головного спеціаліста з продуктів компанії Сміти Хашіма. Хашім уточнив, що Zoom має право використовувати контент клієнтів для розробки додаткових послуг, але клієнти завжди зберігають право власності та контроль над своїм контентом. Вона також наголосила на формулюванні, доданому до TOS: «Незважаючи на вищезазначене, Zoom не використовуватиме аудіо-, відео- та чат-контент клієнтів для навчання наших моделей штучного інтелекту без вашої згоди».

Наступного дня після того, як Zoom опублікував допис у своєму блозі, пояснюючи зміни TOS, Юань звернувся до комунікаційного збою та планів компанії щодо навчання ШІ більш прямо та тверезо. Генеральний директор взяв на себе відповідальність у своїй провині LinkedIn, заявивши, що в компанії стався внутрішній збій процесу. Публікація на його особистій сторінці була спрямована на занепокоєння користувачів, подібно до публікації в офіційному блозі Zoom, але Юань наголосив на обіцянці не навчати ШІ даних клієнтів сміливою заявою. Він написав: «Я переконаний, що будь-яка компанія, яка використовує контент клієнтів для навчання свого штучного інтелекту без згоди клієнта, припинить роботу миттєво».

Наприкінці тижня Zoom підтвердив зобов’язання Yuan не використовувати дані клієнтів для навчання штучного інтелекту та випустив переглянуті TOS, які набули чинності 11 серпня 2023 року. Повідомлення в блозі Хашіма також було оновлено редакторською приміткою, яка повторює політику Zoom щодо штучного інтелекту. Більш того, компанія негайно внесла зміни в продукт.

Чи задовольнить це всіх, хто вірить, що Zoom краде їхню інформацію і йому не можна довіряти? Можливо ні. Але, маючи все це на увазі, давайте чітко поглянемо на різні аспекти того, як Zoom використовує дані.

Як Zoom використовує дані клієнтів

По-перше, давайте розрізняти два типи даних, які розглядаються в TOS Zoom. Zoom може збирати дві категорії даних: "дані, створені послугами", які включають телеметричні, діагностичні та подібні дані, і "контент клієнтів", як-от аудіозаписи або стенограми чату, створені користувачами.

Zoom володіє даними, створеними сервісом, але компанія каже, що вони використовуються лише для покращення сервісу. Водночас відеоконтент, аудіо, чат і будь-які файли, якими спільно користуються віртуальні чотири стіни, тобто вміст клієнтів, будь-якої зустрічі Zoom повністю належать користувачеві. Zoom має обмежені права на використання цих даних, перш за все, для надання послуги (як у наведеному нижче прикладі) або для юридичних цілей, безпеки чи безпеки.

Права використання, викладені в TOS для зустрічей, використовуються для захисту платформи від можливих претензій щодо авторських прав. Ці права захищають інфраструктуру та роботу платформи Zoom, дозволяючи компанії керувати та зберігати файли на своїх серверах, не порушуючи права власності на вміст.

Ось приклад: починаючий музичний гурт використовує платформу, щоб грати музику для друзів. З огляду на принцип роботи сервісу, Zoom має завантажувати та буферизувати це аудіо на сервери компанії (серед інших процесів), щоб доставити цю пісню, яка вважається інтелектуальною власністю, учасникам платформи. Якщо Zoom не має на це прав, цей гурт, його майбутнє керівництво, звукозаписний лейбл або будь-хто, хто коли-небудь технічно володіє цією IP-адресою, може подати до суду на Zoom за володіння цією IP-адресою на своїх серверах.

Це може здатися схожим на маргінальний випадок використання, і навряд чи він витримає в суді, але це не є нечуваним і наразить компанію чи будь-якого майбутнього власника компанії на юридичний ризик.

Чи використовує Zoom ваші дані для навчання моделей ШІ?

Після змін, внесених цього тижня до Умов використання, відповідь на це запитання тепер категорична «Ні». Коли Zoom IQ Meeting Summary та Zoom IQ Chat Compose нещодавно були представлені на пробній основі, вони використовували ШІ, щоб покращити досвід Zoom за допомогою автоматизованих підсумків нарад і Створення чату за допомогою ШІ. Але оскільки ми публікуємо цю статтю 11 серпня, Zoom каже, що більше не використовує жодних даних клієнтів для навчання моделей штучного інтелекту, як власних, так і сторонніх. Однак, щоб краще зрозуміти серію подій, я розповім, як компанія раніше займалася навчанням моделей.

Власники та адміністратори облікових записів отримали повний контроль над увімкненням функцій ШІ. Як Zoom IQ обробляв дані під час безкоштовної пробної версії, було прозоро розглянуто в цій публікації в блозі, яка була опублікована задовго до того, як виникли ширші занепокоєння щодо збору даних і навчання моделі ШІ. (Публікацію тепер оновлено, щоб відобразити уточнену політику обробки даних клієнтів.)

Коли було представлено Zoom IQ, збір даних для навчання моделей штучного інтелекту Zoom здійснювався на основі активного вибору користувачів і гостей. Як і у випадку зі сповіщеннями про запис, які знайомі більшості користувачів, процес Zoom сповіщав учасників, коли їхні дані використовувалися, і сповіщення потрібно було підтвердити, щоб користувач міг продовжити бажану дію. Окрім збору даних для штучного інтелекту, цього тижня Zoom повідомив мені, що продукт попереджає користувачів, якщо хост навіть увімкнув генеративну функцію штучного інтелекту, таку як підсумок зустрічі.

Дані користувачів були зібрані для покращення можливостей моделей AI та загального досвіду користувача. Враховуючи останню зміну TOS, незрозуміло, як Zoom планує навчати свої моделі штучного інтелекту тепер, коли він не матиме даних клієнтів для роботи.

До цього тижня ось як виглядала згода на участь у продукті Zoom.

А ось як це виглядає станом на 11 серпня 2023 року.

Як власники й адміністратори облікових записів тепер увімкнуть і керують функцією Zoom IQ for Meeting Summary

Збільшити

Об’єднаний підхід AI від Zoom об’єднує різні моделі AI, у тому числі власну, разом із моделями таких компаній, як Anthropic і OpenAI, а також моделі окремих клієнтів. Ця адаптивність дозволяє Zoom адаптувати рішення штучного інтелекту до індивідуальних бізнес-вимог і вподобань користувачів, зокрема як тренуються моделі.

Відповідальне регулювання штучного інтелекту розроблятиметься ще довго. Законодавці визнали, що відстають від швидкого впровадження штучного інтелекту, оскільки піонери галузі, такі як OpenAI, закликали Конгрес регулювати цю технологію. У поточний період саморегулювання модель штучного інтелекту компанії надає перевагу безпеці, інтерпретації та керованості. Він діє в рамках встановлених обмежень безпеки та етичних принципів, що дозволяє проводити навчання з чітко визначеними параметрами для прийняття рішень.

Підсумок: Zoom використовує ваші дані, але не страшно

На тлі широкого занепокоєння конфіденційністю та безпекою даних, я вважаю, що підхід Zoom базується на контролі користувача та прозорості, що підкріплюється змінами цього тижня до Умов використання. В Умовах використання Zoom є нюанси, які дозволяють йому вживати заходів, необхідних для роботи платформи. Події цього тижня підкреслили потребу Zoom активно та публічно повідомляти про те, що, на мою думку, вони вже вважають пріоритетними всередині.

Оскільки технологія — і зокрема штучний інтелект — розвивається, сприяння відкритому діалогу про використання даних і конфіденційність матиме вирішальне значення для збереження (або, у деяких випадках, відновлення) довіри між користувачами Zoom. Цей тиждень показав, що люди все ще дуже сором’язливі щодо ШІ, і це справедливо. Про штучний інтелект ще багато невідомих, але оцінка Moor Insights & Strategy полягає в тому, що Zoom має хороші можливості для безпечного надання широкого набору рішень ШІ, налаштованих для своїх користувачів. Zoom встановив, що має намір робити це без використання контенту клієнтів для навчання своїх моделей ШІ. Оскільки компанія займається проблемами конфіденційності даних, я сподіваюся, що вона зможе знайти баланс, щоб задовольнити занепокоєння користувачів, одночасно розвиваючи технології для задоволення їхніх бізнес-потреб.

За загальним визнанням, у компанії була операційна помилка. Давайте не плутати це з осудливим наміром. Zoom як організація та її генеральний директор особисто визнали занепокоєння своїх клієнтів і внесли необхідні корективи в TOS, які точно відображають розумне управління конфіденційністю даних і безпекою Zoom. Тепер я з нетерпінням чекаю, коли Zoom повернеться до зосередження на об’єднанні мільйонів людей у всьому світі, пропонуючи рішення для зустрічей, контакт-центрів тощо, щоб зробити людей і зібрання більш змістовними та продуктивними.