Eventos del mundo real impulsan aumentos en el discurso de odio en línea, encuentra un estudio

línea superior

Los eventos del mundo real, como elecciones y protestas, pueden generar picos en el discurso de odio en línea en las plataformas principales y marginales por igual, encontró un estudio publicado el miércoles en la revista PLOS ONE, con publicaciones de odio que aumentan incluso cuando muchas plataformas de redes sociales intentan tomar medidas enérgicas.

Se muestra un cartel en la sede de Twitter en San Francisco.

AP/Jeff Chiu

Hechos clave

Usando el análisis de aprendizaje automático, una forma de analizar datos que automatiza la construcción de modelos, los investigadores observaron siete tipos de discurso de odio en línea en 59 millones de publicaciones de usuarios de 1150 comunidades de odio en línea, foros en línea en los que es más probable que se use el discurso de odio, incluso en sitios como Facebook, Instagram, 4Chan y Telegram.

El número total de publicaciones que incluyeron discursos de odio en un promedio móvil de siete días tuvo una tendencia al alza durante el transcurso del estudio, que se extendió desde junio de 2019 hasta diciembre de 2020, aumentando en un 67 % de 60 000 a 100 000 publicaciones diarias.

A veces, el discurso de odio de los usuarios de las redes sociales creció para abarcar a grupos que no estaban involucrados en los eventos del mundo real de la época.

Entre los casos que los investigadores observaron estuvo un aumento en el discurso de odio religioso y el antisemitismo después del asesinato del general iraní Qasem Soleimani por parte de Estados Unidos a principios de 2020, y un aumento en el discurso de odio religioso y de género después de las elecciones estadounidenses de noviembre de 2020, durante las cuales Kamala Harris fue elegida como la primera mujer vicepresidenta.

A pesar de los esfuerzos de las plataformas individuales para eliminar el discurso de odio, el discurso de odio en línea siguió persistiendo, según los investigadores.

Los investigadores señalaron la atención de los medios como un factor clave para generar publicaciones relacionadas con el odio: por ejemplo, hubo poca atención de los medios cuando Breonna Taylor fue asesinada por primera vez por la policía y, por lo tanto, los investigadores encontraron un discurso de odio mínimo en línea, pero cuando George Floyd fue asesinado meses después. y la atención de los medios creció, también lo hizo el discurso de odio.

Número grande

250%. Así aumentó la tasa de discurso de odio racial tras el asesinato de George Floyd. Fue el mayor aumento en el discurso de odio que los investigadores encontraron dentro del período de estudio.

Antecedentes clave

El discurso de odio ha irritado las redes sociales durante años: plataformas como Facebook y Twitter tienen políticas que prohíben el discurso de odio y se han comprometido a eliminar el contenido ofensivo, pero eso no ha eliminado la difusión de estas publicaciones. A principios de este mes, casi dos docenas de expertos independientes en derechos humanos designados por la ONU instaron a una mayor rendición de cuentas de las plataformas de redes sociales para reducir la cantidad de discursos de odio en línea. Y los expertos en derechos humanos no están solos en su deseo de que las empresas de redes sociales hagan más: una encuesta de diciembre de USA Today-Suffolk University encontró que el 52% de los encuestados dijo que las plataformas de redes sociales deberían restringir el contenido inapropiado e inexacto, mientras que el 38% dice que los sitios deberían ser un foro abierto.

Tangente

Días después de que el multimillonario Elon Musk cerrara su trato para comprar Twitter el año pasado, prometiendo relajar las políticas de moderación del sitio, el sitio experimentó un "aumento en la conducta odiosa", según Yoel Roth, exjefe de seguridad e integridad de Twitter. En ese momento, Roth tuiteó que el equipo de seguridad eliminó más de 1500 cuentas por conducta odiosa en un período de tres días. Musk se ha enfrentado a fuertes críticas de grupos de defensa que argumentan que bajo el liderazgo de Musk y con la relajación de las normas de expresión, el volumen de discursos de odio en Twitter ha crecido drásticamente, aunque Musk ha insistido en que las impresiones sobre los tuits llenos de odio han disminuido.

Otras lecturas

El jefe de seguridad de Twitter admite un "aumento de la conducta odiosa" ya que, según se informa, el formulario limita el acceso a las herramientas de moderación (Forbes)

Algunas reservas sobre un requisito de consistencia para las decisiones de moderación de contenido de redes sociales. (Forbes)

¿Qué deben hacer los legisladores para fomentar una mejor moderación del contenido de la plataforma? (Forbes)