Meta поддерживает новую упаковку, чтобы помочь несовершеннолетним стирать привлекательные изображения из Интернета.

Meta финансирует общенациональные усилия, направленные на то, чтобы помочь детям и подросткам удалить свои обнаженные или откровенно сексуальные изображения из социальных сетей. Может ли собственный шаг гиганта к сквозному шифрованию помешать?

Национальный центр пропавших без вести и эксплуатируемых детей запустил платформу, финансируемую Meta, чтобы помочь детям и подросткам удалить свои обнаженные или сексуальные фотографии и видео из социальных сетей.

Новый сервис для несовершеннолетних под названием Take It Down был представлен через год после выпуска аналогичного инструмента для взрослых, известного как StopNCII (сокращение от интимных изображений без согласия). Сегодня Take It Down будет работать только на пяти платформах, согласившихся на участие: принадлежащих Meta Facebook и Instagram, а также Yubo, OnlyFans и Pornhub.

«Мы создали эту систему, потому что многие дети оказались в безвыходной ситуации», — сказала президент и главный исполнительный директор NCMEC Мишель ДеЛон. «Мы надеемся, что дети узнают об этой услуге и почувствуют облегчение от того, что существуют инструменты, помогающие удалять изображения».

То, как компании социальных сетей защищают детей и подростков — и где они терпят неудачу — стало главным вопросом двухпартийной технической политики в новом Конгрессе, и у законодателей есть наилучшие шансы на принятие закона. Тем не менее, впереди еще долгий путь для любых предложений по созданию или усилению мер безопасности, и, поскольку никаких законов не предвидится, NCMEC продолжает выступать в качестве моста между онлайн-компаниями и правоохранительными органами по вопросам безопасности детей. В 2021 году некоммерческая организация получила почти 30 миллионов советов со всей отрасли о явном секстортинге и материалах о сексуальном насилии над детьми на своих платформах. О большинстве сообщений сообщили платформы, принадлежащие Meta.

Несовершеннолетние и родители могут использовать бесплатный анонимный инструмент NCMEC, чтобы пометить откровенные материалы несовершеннолетнего лица, которые были или которые, по их мнению, будут распространены в Интернете. После того, как они выбрали конфиденциальные фотографии или видео на своем устройстве, платформа генерирует эквивалент цифрового отпечатка этой фотографии (называемый «хэшем»), которым NCMEC затем делится с участвующими сайтами социальных сетей, чтобы они могли попытаться найти, ограничивать или удалять, а также продолжать отслеживать этот контент.

По данным NCMEC, рассматриваемые фотографии или видео, в частности, не покидают устройство и никем не просматриваются. (Хеш также делает жертв неидентифицируемыми как для NCMEC, так и для приложения социальных сетей, сигнализируя только о том, что изображение является вредоносным и должно быть удалено.) NCMEC заявила, что не было известных нарушений ее базы данных хэшей, которые потенциально могли бы раскрыть личность человека. .

Но одним из самых больших препятствий для этих усилий является развитие сквозного шифрования. «Когда технологические компании внедряют сквозное шифрование без встроенных превентивных мер для обнаружения известных материалов о сексуальном насилии над детьми, это оказывает разрушительное воздействие на безопасность детей», — заявил ДеЛон, президент NCMEC, на слушаниях в судебном комитете Сената в этом месяце. . Слон в комнате заключается в том, что финансовый спонсор и самая известная компания, участвующая в Take It Down, Meta, движется к сквозному шифрованию как в Instagram, так и в Messenger.

Как две организации смогут примирить это — «вопрос на миллион долларов», — сказал Forbes вице-президент NCMEC Гэвин Портной, отметив, что NCMEC до сих пор точно не знает, каковы планы Meta в отношении шифрования и какие меры безопасности могут быть приняты. (Мета сообщила, что они находятся в стадии разработки и что различные функции шифрования тестируются в Instagram и Messenger.)

«Мы строим Take It Down с учетом того, как Интернет и [поставщик электронных услуг] расположены сегодня», — сказал Портной. «Это действительно мост, который нам придется пересечь, когда мы лучше поймем, как выглядит среда сквозного шифрования [Meta] — и есть ли мир, в котором Take It Down может работать». "

Глава глобального отдела безопасности Meta Антигона Дэвис заявила Forbes, что «шифрование приведет к тому, что некоторые изображения не будут идентифицированы нами», но это становится отраслевым стандартом обмена сообщениями, который жизненно важен для конфиденциальности и безопасности пользователей. По ее словам, использование хеш-технологии и поддержка NCMEC в таких проектах, как этот, являются одними из нескольких способов, с помощью которых Meta пытается «действительно решить проблему». (Обе стороны отказались сообщить, сколько денег Meta дала NCMEC на создание Take It Down.)

«Нет панацеи для решения этих проблем», — сказал Дэвис в интервью, назвав подход Меты «многогранным». По ее словам, в дополнение к совместной работе над этой новой системой, направленной на предотвращение сексуального вымогательства и распространения интимных изображений без согласия, Meta не позволяет взрослым незнакомцам общаться с несовершеннолетними с помощью функций обмена сообщениями. Она добавила, что контент не будет передаваться взрослым мета-пользователям, которые проявляют подозрительное поведение в Интернете.

«Я надеюсь, что люди, которым в молодости поделились подобными фотографиями кто-то — родитель, который их эксплуатировал, другой взрослый, который их эксплуатировал, бывший парень или девушка, — что они почувствуют интерес использовать этот инструмент», — сказал Дэвис.

NCMEC заявила, что предложила около 200 другим поставщикам электронных услуг, которые предоставили информацию в ее «CyberTipline», присоединиться к программе Take It Down. Еще неизвестно, кто еще — помимо небольшой горстки игроков в социальных сетях, отстаивающих это сегодня — попадет на борт. Yubo, со своей стороны, надеется, что эти первые последователи подтолкнут других к присоединению.

«Для снижения рисков и решения проблем в Интернете требуется больше, чем просто вмешательство правительства», — сказал по электронной почте генеральный директор Yubo Саша Лазими. «Все актеры должны играть свою роль. … Сотрудничество является ключом к поиску решений серьезных проблем, поэтому мы надеемся, что к инициативе Take It Down присоединится больше платформ».