Нет, Zoom не крадет ваши данные. Вот почему.

На бурной неделе развития Zoom предположения о проблемах конфиденциальности, связанных с условиями обслуживания (TOS) компании, вызвали опасения — наряду с некоторой паникой — по поводу того, как она использует данные клиентов для обучения моделей ИИ. Это перекликается с более широкими опасениями по поводу конфиденциальности и безопасности данных в среде цифровых коммуникаций. Кроме того, это еще один случай, когда вопросы об использовании ИИ возникают так же быстро, как развиваются технологии ИИ.

Срочные новости в конце недели заключаются в том, что негативная реакция заставила Zoom изменить свои TOS, чтобы вообще избежать проблемы сбора данных для ИИ. Распаковываем то, что произошло.

Уровень сарказма в примере с Zoom не был тривиальным. Некоторые лидеры отрасли публично обвинили Zoom в неправильном поведении в этой ситуации, что вполне понятно. Zoom и раньше был не на той стороне барьеров конфиденциальности данных. Было обнаружено, что компания, которая росла астрономическими темпами во время пандемии, исказила информацию об использовании определенных протоколов шифрования, что привело к урегулированию с FTC в 2021 году. Это часть, характерная для Zoom. Но компанию также осуждают как еще один пример в перечне недобросовестных игроков в сфере высоких технологий, где бесчисленное количество судебных исков и расследований практики работы с данными. Неудивительно, что публика предполагает худшее, особенно учитывая ее дополнительную тревогу по поводу будущего ИИ.

Справедливо. Никто не ставил Зума под перекрестный огонь. Тем не менее, производители программного обеспечения должны соблюдать тонкий баланс между защитой пользовательских данных и технологическим прогрессом. Без защиты пользовательских данных репутация любой компании будет подорвана, а клиенты уйдут толпами; тем не менее без технического прогресса ни одна компания не сможет привлекать новых клиентов или продолжать удовлетворять потребности тех, кто у нее уже есть. Поэтому нам необходимо изучить эти опасения — по поводу Zoom и в более широком смысле — чтобы пролить свет на нюансы и меры безопасности, которые определяют использование данных платформой и ее инициативы в области искусственного интеллекта.

Взгляд аналитика на Zoom

По чистой случайности около 20 других отраслевых аналитиков и я на прошлой неделе провели три дня с высшим руководством Zoom в Силиконовой долине. Во время этого закрытого мероприятия, которое Zoom проводит каждый год, чтобы получить откровенные отзывы от аналитиков, мы подробно изучили операции Zoom, от финансов до продуктов и маркетинга, приобретений, искусственного интеллекта и не только. Многое из того, что мы узнали, было под соглашением о неразглашении, но я ушел не только с позитивным взглядом на будущее Zoom, но и с более глубоким уважением к его руководящей команде и восхищением его культурой и духом.

Стоит отметить, что у нас был полный доступ к руководителям все время, без каких-либо пиарщиков с их стороны, пытающихся контролировать повествование. По своему опыту могу сказать, что такой беспрепятственный доступ встречается редко.

Вы также должны знать, что аналитики — непростая толпа. Когда у нас есть такой закрытый доступ к топ-менеджерам и закрытой информации компании, мы задаем самые трудные вопросы — неудобные вопросы — и ищем дыры в ответах. Я сравнил записи с Патриком Мурхедом, генеральным директором и главным аналитиком Moor Insights & Strategy, который много лет занимался Zoom и посещал множество подобных собраний. Мы с ним не могли вспомнить ни одного аналитика, осведомленного о руководстве и операциях Zoom, чье мнение о компании испортилось из-за скандала вокруг TOS.

Тем не менее, мы стремились узнать больше, поэтому Мурхед и я попросили о встрече с ключевыми членами высшего руководства Zoom, чтобы лучше понять, что происходит с TOS. У нас была встреча в середине недели, но еще до того, как мы смогли закончить этот анализ, наши выводы были дополнены поразительно уязвимым постом в LinkedIn от генерального директора Zoom Эрика Юаня. В этом посте он сказал, что Zoom никогда не будет обучать модели ИИ с помощью контента клиентов без явного согласия. Он пообещал, что Zoom не будет обучать свои модели ИИ, используя «аудио, видео, чат, совместное использование экрана, вложения и другие средства связи, такие как результаты опросов, интерактивную доску и реакции».

Что случилось с изменением условий обслуживания Zoom?

В марте 2023 года Zoom обновил свои TOS, «чтобы быть более прозрачными в отношении того, как мы используем и кому принадлежат различные формы контента на нашей платформе». Учитывая, что Zoom находится под мандатом FTC в отношении раскрытия информации о безопасности, такая откровенность имеет смысл. Ошибка компании заключалась в том, что это изменение было сделано незаметно и без четкого определения того, как Zoom будет использовать данные для обучения ИИ.

В наших обсуждениях с Zoom на этой неделе компания взяла на себя полную ответственность за отсутствие связи. Я не верю, что компания пыталась что-то скрыть или получить что-то от пользователей. Фактически, многие положения TOS в настоящее время не затрагивают подавляющее большинство клиентов Zoom. Проявляя такую инициативу, компания непреднамеренно зашла слишком далеко вперед, что вызвало ненужную тревогу у многих клиентов, которых никогда не затрагивала проблема обучающих данных ИИ.

Как только началась (понятная) паника, Zoom выпустил обновленную версию своих TOS вместе с сообщением в блоге, объясняющим изменения от главного директора по продуктам компании Смиты Хашим. Хашим пояснил, что Zoom имеет право использовать контент клиентов для разработки дополнительных услуг, но клиенты всегда сохраняют право собственности и контроль над своим контентом. Она также подчеркнула формулировку, добавленную в TOS: «Несмотря на вышеизложенное, Zoom не будет использовать аудио, видео или чат Контент клиента для обучения наших моделей искусственного интеллекта без вашего согласия».

На следующий день после того, как Zoom опубликовала сообщение в блоге, объясняющее изменения TOS, Юань более прямо и трезво рассказал о сбое связи и планах компании по обучению ИИ. Генеральный директор взял на себя ответственность в своей вине в LinkedIn, заявив, что в компании произошел сбой внутреннего процесса. Сообщение на его личной странице касалось опасений пользователей, как и сообщение в официальном блоге Zoom, но Юань в смелом заявлении подчеркнул обещание не обучать ИИ на данных клиентов. Он написал: «Я твердо убежден, что любая компания, которая использует данные клиентов для обучения своего ИИ без согласия клиентов, вылетит из бизнеса в одночасье».

К концу недели Zoom закрепил обязательство Юаня не использовать данные клиентов для обучения ИИ и выпустил пересмотренный TOS, вступивший в силу 11 августа 2023 года. Сообщение в блоге Хашима также было обновлено заметкой редактора, подтверждающей политику Zoom в отношении ИИ. Более того, компания сразу же внесла изменения в продукт.

Удовлетворит ли это всех, кто считает, что Zoom крадет их информацию и ему нельзя доверять? Возможно, нет. Тем не менее, имея все это в виду, давайте трезво взглянем на различные аспекты того, как Zoom использует данные.

Как Zoom использует данные клиентов

Во-первых, давайте различать два типа данных, рассматриваемых в TOS Zoom. Zoom может собирать две категории данных: «данные, созданные сервисом», которые включают телеметрию, диагностику и аналогичные данные, и «контент клиента», например аудиозаписи или расшифровки чатов, созданные пользователями.

Zoom владеет данными, сгенерированными сервисом, но компания заявляет, что они используются только для улучшения сервиса. Между тем, видеоконтент, аудио, чат и любые файлы, совместно используемые в виртуальных четырех стенах, то есть контент клиента, на любой встрече Zoom полностью принадлежат пользователю. Zoom имеет ограниченные права на использование этих данных в первую очередь для предоставления услуги (как в следующем примере) или в юридических целях, в целях безопасности.

Права на использование, изложенные в TOS для собраний, используются для защиты платформы от возможных претензий в связи с нарушением авторских прав. Эти права защищают инфраструктуру и работу платформы Zoom, позволяя компании управлять файлами и хранить их на своих серверах, не нарушая права собственности на контент.

Вот пример: начинающая музыкальная группа использует платформу для воспроизведения музыки для друзей. Zoom, просто по характеру работы службы, должен загружать и буферизовать это аудио на серверы компании (среди других процессов), чтобы доставить эту песню, которая считается интеллектуальной собственностью, участникам на платформе. Если у Zoom нет на это прав, эта группа, ее будущее руководство, звукозаписывающая компания или любой, кто когда-либо владел этим IP-адресом, может подать в суд на Zoom за владение этим IP-адресом на его серверах.

Это может показаться второстепенным случаем использования, и вряд ли это будет оправдано в суде, но это не является чем-то необычным и подвергнет компанию или любого будущего владельца компании юридическому риску.

Использует ли Zoom ваши данные для обучения моделей ИИ?

После изменений, внесенных на этой неделе в TOS, ответом на этот вопрос стало решительное «нет». Когда Zoom IQ Meeting Summary и Zoom IQ Chat Compose были недавно представлены на пробной основе, они использовали ИИ для повышения качества работы Zoom с помощью автоматических сводок собраний и Составление чата с помощью ИИ. Но поскольку мы публикуем эту статью 11 августа, Zoom заявляет, что больше не использует данные клиентов для обучения моделей ИИ, ни собственных, ни сторонних. Однако, чтобы лучше понять серию событий, я расскажу, как компания раньше занималась обучением моделей.

Владельцы учетных записей и администраторы получили полный контроль над включением функций ИИ. Как Zoom IQ обрабатывал данные во время бесплатной пробной версии, было прозрачно рассмотрено в этом сообщении в блоге, которое было опубликовано задолго до того, как возникли более широкие проблемы, связанные со сбором данных и обучением моделей ИИ. (Сообщение теперь обновлено, чтобы отразить уточненную политику обработки данных клиентов.)

Когда был представлен Zoom IQ, сбор данных для обучения моделей искусственного интеллекта Zoom стал добровольным на основе активного выбора пользователей и гостей. Как и в случае уведомлений о записи, которые знакомы большинству пользователей, процесс Zoom уведомлял участников, когда их данные использовались, и уведомление должно было быть подтверждено, чтобы пользователь мог выполнить желаемое действие. Помимо сбора данных для ИИ, Zoom сообщил мне на этой неделе, что продукт предупреждает пользователей, если хост даже включил функцию генеративного ИИ, такую как сводка собрания.

Пользовательские данные были собраны для улучшения возможностей моделей ИИ и общего пользовательского опыта. Учитывая последние изменения в TOS, неясно, как Zoom планирует обучать свои модели ИИ теперь, когда у него не будет данных о клиентах для работы.

До этой недели вот как выглядела подписка в продукте Zoom.

А вот как это выглядит по состоянию на 11 августа 2023 года.

Как владельцы учетных записей и администраторы теперь включают и контролируют функцию Zoom IQ для итогов собрания

Увеличить

Подход Zoom к федеративному ИИ объединяет различные модели ИИ, в том числе собственные, наряду с моделями таких компаний, как Anthropic и OpenAI, а также отдельные модели клиентов. Такая адаптивность позволяет Zoom адаптировать решения ИИ к индивидуальным бизнес-требованиям и предпочтениям пользователей, в том числе к тому, как модели обучаются.

Ответственное регулирование ИИ займет много времени. Законодатели признали, что отстают от быстрого внедрения ИИ, поскольку пионеры отрасли, такие как OpenAI, призвали Конгресс регулировать эту технологию. В текущий период саморегулирования модель искусственного интеллекта компании отдает приоритет безопасности, интерпретируемости и управляемости. Он работает в рамках установленных ограничений безопасности и этических норм, позволяя проводить обучение с четко определенными параметрами для принятия решений.

Итог: Zoom использует ваши данные, но не пугающими способами

На фоне широко распространенных проблем с конфиденциальностью и безопасностью данных я считаю, что подход Zoom основан на контроле пользователей и прозрачности, что подкрепляется внесенными на этой неделе изменениями в TOS. В TOS Zoom есть нюансы, которые позволяют предпринимать шаги, необходимые для работы платформы. События этой недели подчеркнули необходимость для Zoom активно и публично сообщать о том, что, как я полагаю, они уже расставили в приоритете внутри компании.

По мере развития технологий — и в частности искусственного интеллекта — развитие открытого диалога об использовании данных и конфиденциальности будет иметь решающее значение для сохранения (или, в некоторых случаях, восстановления) доверия между пользователями Zoom. Эта неделя показала, что люди по-прежнему очень недоверчиво относятся к ИИ, и это правильно. В отношении ИИ еще много неизвестного, но, по оценке Moor Insights & Strategy, Zoom имеет хорошие возможности для безопасного предоставления широкого набора решений ИИ, адаптированных для своих пользователей. Zoom установила, что намерена сделать это без использования пользовательского контента для обучения своих моделей ИИ. Я надеюсь, что по мере того, как компания будет решать проблемы конфиденциальности данных, она сможет найти баланс между проблемами пользователей и развитием технологий для удовлетворения их бизнес-потребностей.

Компания, по общему признанию, допустила операционную ошибку. Давайте не путать это с предосудительным намерением. Zoom как организация и ее генеральный директор лично признали озабоченность своих клиентов и внесли необходимые коррективы в TOS, которые точно отражают разумное управление конфиденциальностью и безопасностью данных Zoom. Теперь я с нетерпением жду, когда Zoom снова сосредоточится на объединении миллионов людей по всему миру, предлагая решения для встреч, контакт-центров и многого другого, чтобы сделать людей и встречи более содержательными и продуктивными.