Meta підтримує нову платформу, щоб допомогти неповнолітнім видаляти оголені сексуальні зображення з Інтернету

Meta фінансує національні зусилля, спрямовані на те, щоб допомогти дітям і підліткам видалити їхні оголені зображення або зображення сексуального характеру з соціальних мереж. Чи може перехід самого гіганта до наскрізного шифрування стати на заваді?

Національний центр для зниклих і експлуатованих дітей запустив платформу, фінансовану Meta, щоб допомогти дітям і підліткам видаляти їх оголені або сексуальні фотографії та відео з соціальних мереж.

Нову послугу для неповнолітніх під назвою Take It Down було представлено через рік після випуску подібного інструменту для дорослих, відомого як StopNCII (скорочення від non-consensual intimate imagery). Сьогодні Take It Down працюватиме лише на п’яти платформах, які погодилися брати участь: Facebook і Instagram, що належать Meta, а також Yubo, OnlyFans і Pornhub.

«Ми створили цю систему, тому що багато дітей стикаються з такими безвихідними ситуаціями», — сказала президент і генеральний директор NCMEC Мішель ДеЛон. «Ми сподіваємося, що діти дізнаються про цей сервіс і відчують полегшення, оскільки існують інструменти, які допомагають знімати зображення».

Те, як компанії соціальних медіа захищають дітей і підлітків — і де вони не вистачають — стало головним питанням двопартійної технологічної політики в новому Конгресі, і законодавці мають найкращі шанси прийняти законодавство. Тим не менш, попереду ще довгий шлях для будь-яких пропозицій щодо створення або посилення гарантій, і оскільки закони не заплановані, NCMEC продовжує діяти як міст між онлайн-компаніями та правоохоронними органами з питань безпеки дітей. У 2021 році некомерційна організація отримала майже 30 мільйонів порад з усієї галузі про явне сексуальне здирство та матеріали про сексуальне насильство над дітьми на своїх платформах. Більшість повідомили про платформи, що належать Meta.

Неповнолітні та батьки можуть використовувати безкоштовний анонімний інструмент NCMEC, щоб позначати відвертий матеріал неповнолітньої особи, який був або який, на їх думку, буде поширений в Інтернеті. Після того, як вони вибрали конфіденційні фотографії чи відео на своєму пристрої, платформа генерує еквівалент цифрового відбитка цієї фотографії (так званий «хеш»), яким NCMEC ділиться із залученими сайтами соціальних мереж, щоб вони могли спробувати знайти, обмежити або видалити та продовжувати стежити за цим вмістом.

Відповідно до NCMEC, фото чи відео, про які йдеться, не залишають пристрій і ніхто не переглядає. (Хеш також не дозволяє ідентифікувати жертв як для NCMEC, так і для програми соціальних мереж, сигналізуючи лише про те, що зображення є шкідливим і його слід видалити.) NCMEC заявив, що не було відомих порушень його хеш-бази даних, які потенційно могли б розкрити особу особи. .

Але однією з найбільших перешкод для цих зусиль є зростання наскрізного шифрування. «Коли технологічні компанії впроваджують наскрізне шифрування без вбудованих профілактичних заходів для виявлення відомого матеріалу про сексуальне насильство над дітьми, вплив на безпеку дітей є руйнівним», — сказав ДеЛаун, президент NCMEC, на слуханнях у Сенатському комітеті з правових питань цього місяця. . Слон у кімнаті полягає в тому, що фінансовий спонсор і найвідоміша компанія, яка бере участь у Take It Down, Meta, поступово переходить до наскрізного шифрування як в Instagram, так і в Messenger.

Як дві організації можуть узгодити це – «питання на мільйон доларів», сказав Forbes віце-президент NCMEC Гевін Портной, зазначивши, що NCMEC досі точно не знає, які плани Meta щодо шифрування та які гарантії можуть бути введені. (Мета повідомила, що над ними триває робота і що різні функції шифрування тестуються в Instagram і Messenger.)

«Ми створюємо Take It Down відповідно до того, як сьогодні розташовані Інтернет і [постачальник електронних послуг]», — сказав Портной. «Це справді міст, який нам доведеться перейти, коли ми краще зрозуміємо, як виглядає середовище наскрізного шифрування [Meta] — і чи існує світ, у якому Take It Down може працювати. "

Глобальний керівник відділу безпеки Meta Антігона Девіс сказала Forbes, що «шифрування призведе до того, що ми не розпізнаємо певні зображення», але це стає галузевим стандартом обміну повідомленнями, який є життєво важливим для конфіденційності та безпеки користувачів. За її словами, використання хеш-технології та підтримка NCMEC у таких проектах, як цей, є одними з кількох способів, якими Meta намагається «по-справжньому впоратися з проблемою». (Обидві сторони відмовилися повідомити, скільки грошей Meta дала NCMEC на створення Take It Down.)

«Немає панацеї для вирішення цих проблем», — сказав Девіс в інтерв’ю, описуючи підхід Meta як «багатогранний». Окрім співпраці над цією новою системою, спрямованою на перешкоджання сексуальному вимаганню та розповсюдженню інтимних зображень без згоди, Meta не дозволяє дорослим незнайомцям спілкуватися з неповнолітніми за допомогою своїх функцій обміну повідомленнями. Вона також використовує класифікатори для запобігання обліковим записам неповнолітніх та Вона додала, що контент не надсилається дорослим користувачам Meta, які демонстрували підозрілу поведінку в Інтернеті.

«Я сподіваюся, що люди, які в дитинстві ділилися подібними зображеннями будь-ким — батьком, який їх експлуатував, іншим дорослим, який їх експлуатував, колишнім хлопцем чи дівчиною, — вони відчують інтерес використовувати цей інструмент», – сказав Девіс.

NCMEC повідомила, що запропонувала близько 200 інших постачальників електронних послуг, які надіслали інформацію до її «CyberTipline» щодо приєднання до програми Take It Down. Залишається побачити, хто ще, крім невеликої купки гравців соціальних медіа, які сьогодні відстоюють це, потрапить на борт. Yubo, зі свого боку, висловив надію, що ці перші користувачі підштовхнуть інших приєднатися.

«Щоб зменшити ризики та вирішити проблеми в Інтернеті, потрібне більше, ніж просто державне втручання», — сказав генеральний директор Yubo Саша Лазімі електронною поштою. «Всі актори повинні грати свою роль. … Співпраця є ключовою для пошуку рішень для великих проблем, тому ми сподіваємося, що більше платформ приєднаються до ініціативи Take It Down».