Дослідження показує, що події в реальному світі сприяють зростанню ворожих висловлювань в Інтернеті

Топ лінія

Події в реальному світі, такі як вибори та протести, можуть призвести до сплесків ненависті в Інтернеті як на мейнстрімних, так і на маргінальних платформах, показало дослідження, опубліковане в середу в журналі PLOS ONE. Дописи ненависті стрімко зростають, навіть якщо багато платформ соціальних мереж намагаються придушити їх.

У Сан-Франциско показано табличку на штаб-квартирі Twitter.

AP/Джефф Чіу

Ключові факти

За допомогою аналізу машинного навчання — способу аналізу даних, який автоматизує побудову моделі — дослідники розглянули сім видів онлайн-мови ненависті в 59 мільйонах публікацій користувачів 1150 онлайн-спільнот ненависті, онлайн-форумів, на яких мова ненависті найімовірніше використовується, зокрема на таких сайтах, як Facebook, Instagram, 4Chan і Telegram.

Загальна кількість дописів, що містять мову ворожнечі, у ковзному середньому семиденному періоді мала тенденцію до зростання протягом дослідження, яке тривало з червня 2019 року по грудень 2020 року, збільшившись на 67% з 60 000 до 100 000 щоденних дописів.

Іноді мова ненависті користувачів соціальних мереж поширювалася на групи, які не були причетні до реальних подій того часу.

Серед випадків, які відзначили дослідники, було зростання релігійної ненависті та антисемітизму після вбивства США іранського генерала Касема Сулеймані на початку 2020 року, а також зростання релігійної та гендерної ненависті після виборів у США в листопаді 2020 року, під час яких Камала Гарріс була обрана першою жінкою-віцепрезидентом.

За словами дослідників, незважаючи на зусилля окремих платформ усунути мову ворожнечі, мова ворожнечі в Інтернеті продовжувала зберігатися.

Дослідники вказали на увагу засобів масової інформації як на один із ключових факторів у стимулюванні дописів, пов’язаних із ненавистю: наприклад, коли поліція вперше вбила Бреонну Тейлор, було мало уваги ЗМІ, і тому дослідники виявили мінімальну кількість ворожих висловлювань в Інтернеті, але коли Джорджа Флойда вбили через кілька місяців. і увага ЗМІ зросла, як і мова ненависті.

Велике число

250%. Саме на стільки зріс рівень расової ненависті після вбивства Джорджа Флойда. Це був найбільший сплеск мови ворожнечі, який виявили дослідники за період дослідження.

Ключове тло

Ворожі висловлювання роками турбують соціальні мережі: такі платформи, як Facebook і Twitter, мають політику заборони ворожих висловлювань і пообіцяли видаляти образливий вміст, але це не зупинило поширення таких публікацій. Раніше цього місяця майже два десятки призначених ООН незалежних експертів з прав людини закликали до більшої підзвітності платформ соціальних мереж, щоб зменшити кількість ненависті в Інтернеті. Експерти з прав людини не самотні у своєму бажанні, щоб компанії соціальних медіа зробили більше: грудневе опитування USA Today та Університету Саффолка показало, що 52% респондентів вважають, що платформи соціальних мереж повинні обмежувати ненависницький і неточний вміст, тоді як 38% вважають, що сайти повинні бути відкритий форум.

Дотична

Через декілька днів після того, як мільярдер Ілон Маск завершив угоду про покупку Twitter минулого року, пообіцявши пом’якшити політику модерації сайту, на сайті спостерігався «сплеск ненависної поведінки», за словами Йоеля Рота, колишнього керівника відділу безпеки та чесності Twitter. Тоді Рот написав у Твіттері, що команда безпеки видалила понад 1500 облікових записів за ненависницьку поведінку протягом трьох днів. Маск зіткнувся з різкою критикою з боку правозахисних груп, які стверджують, що під керівництвом Маска та з послабленням правил висловлювання кількість ненависті в Twitter різко зросла, хоча Маск наполягав на тому, що враження від ненависницьких твітів зменшилися.

Подальше читання

Керівник служби безпеки Twitter визнає «сплеск ненависної поведінки», оскільки форма, як повідомляється, обмежує доступ до інструментів модерації (Forbes)

Деякі застереження щодо вимог узгодженості для рішень модерації вмісту соціальних мереж. (Форбс)

Що мають зробити політики, щоб заохотити покращити модерацію вмісту платформи? (Форбс)