Реальные события приводят к увеличению количества разжигания ненависти в Интернете, показало исследование

Верхняя строка

Реальные события, такие как выборы и протесты, могут привести к вспышкам разжигания ненависти в Интернете как на основных, так и на второстепенных платформах, показало исследование, опубликованное в среду в журнале PLOS ONE.

Вывеска штаб-квартиры Twitter в Сан-Франциско.

AP/Джефф Чиу

Ключевые факты

Используя анализ машинного обучения — способ анализа данных, который автоматизирует построение моделей — исследователи изучили семь видов языка ненависти в Интернете в 59 миллионах сообщений пользователей 1150 онлайн-сообществ ненависти, онлайн-форумов, на которых наиболее вероятно использование языка ненависти, в том числе на таких сайтах, как Facebook, Instagram, 4Chan и Telegram.

Общее количество сообщений, включая разжигание ненависти, в скользящем среднем за семь дней имело тенденцию к увеличению в ходе исследования, которое проводилось с июня 2019 года по декабрь 2020 года, увеличившись на 67% с 60 000 до 100 000 сообщений в день.

Иногда ненавистнические высказывания пользователей социальных сетей распространялись на группы, не участвовавшие в реальных событиях того времени.

Среди случаев, отмеченных исследователями, был рост религиозной ненависти и антисемитизма после убийства США иранского генерала Касема Сулеймани в начале 2020 года, а также рост религиозной и гендерной ненависти после выборов в США в ноябре 2020 года, во время которых Камала Харрис была избрана первой женщиной-вице-президентом.

По словам исследователей, несмотря на усилия отдельных платформ по удалению разжигания ненависти, разжигание ненависти в Интернете продолжало сохраняться.

Исследователи указали на внимание средств массовой информации как на один из ключевых факторов, способствующих распространению постов, связанных с ненавистью: например, когда Бреонна Тейлор была впервые убита полицией, было мало внимания со стороны средств массовой информации, и поэтому исследователи обнаружили минимальное количество разжигающих ненависть высказываний в Интернете, но когда несколько месяцев спустя был убит Джордж Флойд и внимание средств массовой информации росло, как и разжигание ненависти.

Большое количество

250%. Вот насколько увеличился уровень расовой ненависти после убийства Джорджа Флойда. Это был самый большой всплеск языка ненависти, обнаруженный исследователями за период исследования.

Ключевой фон

Ненавистнические высказывания раздражали социальные сети в течение многих лет: такие платформы, как Facebook и Twitter, имеют политику, запрещающую ненавистнические высказывания, и обязались удалять оскорбительный контент, но это не устранило распространение этих сообщений. Ранее в этом месяце почти два десятка независимых экспертов по правам человека, назначенных ООН, призвали социальные сети к большей ответственности, чтобы уменьшить количество разжигания ненависти в Интернете. И эксперты по правам человека не одиноки в своем стремлении к тому, чтобы компании, работающие в социальных сетях, делали больше: декабрьское исследование USA Today, проведенное Университетом Саффолка, показало, что 52% респондентов заявили, что платформы социальных сетей должны ограничивать ненавистный и неточный контент, а 38% считают, что сайты должны открытый форум.

Тангенс

Через несколько дней после того, как миллиардер Илон Маск закрыл сделку по покупке Twitter в прошлом году, пообещав смягчить политику модерации сайта, на сайте произошел «всплеск ненависти», по словам Йоэля Рота, бывшего главы Twitter по безопасности и честности. В то время Рот написал в Твиттере, что команда безопасности удалила более 1500 учетных записей за ненавистное поведение за трехдневный период. Маск столкнулся с резкой критикой со стороны правозащитных групп, которые утверждают, что под руководством Маска и с ослаблением правил высказываний объем ненавистнических высказываний в Твиттере резко вырос, хотя Маск настаивает на том, что количество впечатлений от ненавистнических твитов снизилось.

Дальнейшее чтение

Глава службы безопасности Twitter признает «всплеск ненавистнического поведения», поскольку форма, как сообщается, ограничивает доступ к инструментам модерации (Forbes)

Некоторые оговорки относительно требования последовательности для решений о модерации контента в социальных сетях. (Форбс)

Что должны сделать политики, чтобы стимулировать лучшую модерацию контента платформы? (Форбс)