Carta abierta sobre la lucha contra el antisemitismo en las redes sociales

Estimado Parag,

Felicitaciones por el nombramiento como nuevo CEO de Twitter. En la Liga Antidifamación (ADL) hemos trabajado con Twitter durante años y queremos recordarle el compromiso explícito y repetido que su empresa ha hecho para mantener el odio fuera de su plataforma.

Twitter fue en su momento un pozo negro de discursos de odio y mantuvo a los analistas de la ADL bastante ocupados. Nuestros informes sobre el flujo tóxico de contenidos antisemitas en la plataforma han sido ampliamente difundidos. Sin duda alguna Twitter ha progresado a lo largo de los años en sus esfuerzos por controlar ese veneno pero, a pesar de las políticas oficiales y las mejoras del producto, el contenido antisemita hostil y otras preocupantes formas de discurso de odio siguen siendo fáciles de encontrar en el sitio.

Hay muchas razones por las que los judíos estadounidenses y las organizaciones judías —como la ADL— están tan preocupadas por el antisemitismo y el odio en las redes sociales. Las amenazas de acoso, vandalismo y violencia siguen siendo una preocupación para la comunidad judía estadounidense. En un momento en el que los incidentes antisemitas han aumentado a niveles históricamente altos en todo el país, y tras ataques antisemitas de alto perfil como los de Pittsburgh, Poway, Jersey City, Monsey, Los Ángeles y la ciudad de Nueva York, los judíos estadounidenses se sienten hoy mucho menos seguros en Estados Unidos que hace una década.

No hay duda de que las plataformas de los medios sociales han desempeñado un papel excesivo en la difusión de ideas antisemitas y la amplificación de los ataques contra los judíos. Una reciente encuesta de la ADL reveló que el 22% de los judíos estadounidenses declararon haber sido hostigados en línea durante el último año, incluyendo acoso, amenazas físicas, swatting, exposición de identidad o acoso sostenido. Un número aún mayor de judíos estadounidenses —el 36%— dijo haber sufrido algún tipo de acoso en línea.

El antisemitismo en línea adopta muchas formas. Puede ser cualquier cosa, desde una amenaza hiriente o un insulto hasta mensajes de odio más peligrosos e insidiosos difundidos por extremistas de derecha, vituperios antisionistas generados por activistas antiisraelíes, negación del Holocausto o conspiraciones antisemitas de QAnon. Las plataformas de medios sociales ayudan a amplificar las voces más extremas de la sociedad y contribuyen a difundir sus mensajes de odio a miles, si no cientos de miles de personas, en nanosegundos.

Hay medidas concretas que Twitter puede tomar para frenar la marea de contenidos dañinos y crear una plataforma más segura y equitativa para todos. Twitter ha colaborado de buena fe en la mejora de las herramientas de los usuarios y en la investigación de los posibles daños causados por sus algoritmos, como la amplificación de determinados contenidos políticos. También aplaudo a Twitter por poner algunos datos a disposición de investigadores académicos e independientes; espero que otras empresas igualen sus esfuerzos.

Sin embargo, tiene un largo camino que recorrer para poner el bien común por encima del beneficio.

Le pido que renueve los compromisos de Twitter para luchar contra el odio en su plataforma, incluyendo:

Hacer cumplir las políticas sobre el antisemitismo y el odio de forma coherente y a escala.

Twitter tiene muchas políticas fuertes contra el odio, pero estas solo son eficaces si se aplican bien. La ADL recomienda que Twitter asigne muchos más recursos para la moderación automática y la revisión humana de contenidos.

Proporcionar a los investigadores independientes un mayor acceso a los datos.

Aunque Twitter proporciona un mejor acceso a los datos que muchas otras plataformas, debe apoyar aún más a los investigadores que estudian la naturaleza del antisemitismo y la intolerancia en línea.

Someterse a auditorías independientes periódicas y exhaustivas.

Twitter y otras empresas tecnológicas deberían someterse a auditorías externas sobre la prevalencia del odio en sus plataformas y sus esfuerzos para mitigarlo. Las auditorías externas deben ser llevadas a cabo por expertos de confianza que puedan verificar si las empresas de medios sociales cumplen sus promesas.

Concentrar los objetivos y las comunidades afectadas en las herramientas y prácticas de moderación de contenidos.

Debería incorporar las experiencias de los grupos objetivo tanto en las revisiones automatizadas como en las humanas, ampliando la investigación a las herramientas y procesos informados por las comunidades afectadas. También debería adoptar los principios contra el odio por diseño y las mejores prácticas de información recomendadas por la ADL y otros grupos contra el odio.

Estas sugerencias no restringen en forma alguna la libertad de expresión. Twitter puede seguir siendo la “plaza del pueblo” para gran parte de la conversación pública, pero estas modificaciones reforzarían el servicio y mejorarían la experiencia de todos los usuarios. Aunque algunos podrían argumentar que estos cambios podrían suponer un cierto riesgo para las métricas comerciales de Twitter a corto plazo, creo que el riesgo a largo plazo para Twitter —sus usuarios, sus empleados y toda la sociedad— supera con creces esos costos económicos. Hacer de Twitter un entorno menos tóxico y más transparente es, de hecho, una estrategia de crecimiento a largo plazo. Las soluciones tecnológicas por sí solas no pueden resolver los males sociales, como la intolerancia o la discriminación, pero sí pueden limitar la visibilidad, el alcance y la normalización de las ideas extremistas y de los extremistas, fuerzas que realmente son riesgos existenciales para el trato justo y la justicia para todos.

Atentamente,

Jonathan A. Greenblatt, Director general y director nacional

Liga Antidifamación (ADL)

* El autor es el director general de la Liga Antidifamación (ADL)- (Esta columna se publicó originalmente en inglés en Forward).

SEGUIR LEYENDO: