La televisión de Instagram recomendó videos denunciados por potencial abuso de menores

La televisión de Instagram, que permite subir videos de hasta 60 minutos, recomendó videos perturbadores, entre ellos algunos denunciados por potencial abuso de menores. Una investigación de Business Insider reveló que IGTV, la app que compite con YouTube y Snapchat recomendó "contenido cuestionable", como "secuencias de niñas y un video explícito de un pene mutilado".

La publicación monitoreó IGTV, propiedad de Facebook, durante tres semanas. Dos de los videos que descubrió causaron que la Sociedad Nacional de Prevención de la Crueldad contra los Niños, del Reino Unido, pidiera la intervención de la policía. Y aunque los periodistas advirtieron directamente a la aplicación que el contenido de esos videos era abusivo, IGTV tardó cinco días en eliminarlos.

Mientras tanto, muchos usuarios se quejaron de las recomendaciones del algoritmo que los tomaba por pedófilos potenciales. "Tiene como 10 años, por qué mierda está esto en mi Instagram", dijo un usuarios sobre el video Hot Girl Follow Me. Otros, menos preocupados por la ley o el bienestar de los menores, comentaron "excelente" y "niña sexy".

Instagram pidió disculpas a los usuarios que vieron los videos y dijo que quiere que IGTV sea un ambiente seguro para los jóvenes. "Los hallazgos surgen en un momento en que Facebook está bajo extraordinario escrutinio por el contenido inapropiado en sus plataformas", señaló Business Insider. Aludía a las noticias falsas y las operaciones de agentes rusos, los negacionistas de la Shoah y los impulsores de la violencia contra los Rohingya en Myanmar.

Facebook e Instagram comparten el equipo de operaciones comunitarias. La empresa de Mark Zuckerberg contrató 7.500 moderadores de contenidos para que, junto con herramientas de inteligencia artificial, detecten las publicaciones impropias y criminales. Sin embargo, "el contenido perturbador parece colarse, y en el caso de IGTV, incluso se le sugiere a los usuarios".

Las recomendaciones se hacen en tres de las cuatro pestañas que organizan la aplicación: "Para ti", donde se muestran las sugerencias de la plataforma según lo que IGTV sabe del usuario; "Populares", que reúne las tendencias del momento, y "Seguir viendo", que recuerda contenidos que se comenzaron a ver antes. La cuarta pestaña, "Personas que sigues", muestra los videos de las personas a las que sigue el usuario.

Para tener un canal basta con tener un perfil en Instagram. Los videos se organizan de manera similar a los canales de televisión y de YouTube, y el usuario puede recorrer los recomendados al deslizarlos hacia la izquierda, ya que caso contrario IGTV comienza a reproducir automáticamente el video que sigue.

A fin de analizar las pestañas "Para ti" y "Populares", el medio usó las cuentas de algunos de sus periodistas y también creó una de un menor, alguien de 13 años sin historia de actividad en Instagram. A los pocos días de comenzar el experimento, en las cuentas de los periodistas la pestaña "Para ti" recomendó Hot Girl Follow Me. El video mostraba una niña de 11 o 12 años aproximadamente, en un baño, que se quitaba la blusa y terminaba cuando se iba a quitar el resto de la ropa.

"El video, que subió un usuario al que Business Insider no identifica por razones legales, también apareció en la pestaña 'Popular' de IGTV. También fue uno de los primeros videos recomendados en la sección "Para ti" de la cuenta del menor", describió el artículo.

"El mismo usuario que subió el video de Hot Girl Follow Me publicó otro video, llamado Patli Kamar follow me guys plzz, que también se recomendó a nuestra cuenta de menor de edad en la sección 'Para ti'. Mostraba a otra niña claramente pequeña que mostraba su abdomen y hacía mohines a la cámara". Luego los mismos videos fueron reproducidos con otros nombres por otro usuario.

"Este es otro ejemplo de cómo Instagram no logra remover los contenidos que violan sus propias pautas", dijo una vocera de la Sociedad Nacional de Prevención de la Crueldad contra los Niños.

Cuando la publicación denunció, en el canal oficial de Instagram dedicado a eso, los videos, encontró que no existía la opción de describirlo como potencial explotación de menores, por lo cual los incluyó en la categoría "desnudez o pornografía". YouTube, por ejemplo, permite denunciar la "sexualización de menores", es decir imágenes que se sospeche que implican abuso infantil.

Los videos siguieron en línea. Más eficaz que el canal oficial de denuncias parece haber resultado la llamada de los periodistas a la oficina de prensa de Instagram. Aunque la empresa no respondió a las preguntas del medio, los videos fueron eliminados. "Para entonces, ya se los había visto más de 1 millón de veces".

Los perfiles que los publicaron siguieron activas. Instagram explicó que su política de "tolerancia cero" al abuso infantil se aplica al contenido, no a las cuentas. "Hasta esta semana, las dos cuentas permanecen activas. Siguen publicando contenido sexualmente sugestivo, pero no de la misma naturaleza", observó el artículo.

El otro video que se denunció también llegó a la cuenta del supuesto niño de 13 años: "imágenes gráficas de un pene durante una operación que involucró una sierra motorizada". Parecía que el pene tenía incrustada una tuerca de llanta, por lo que se veía extremadamente inflamado y de rojo oscuro. Alguien con el aspecto de un médico estaba removiendo el objeto con una sierra eléctrica curva. El video fue eliminado, la cuenta no.

Otro video recomendado mostraba un bebé, apoyado en el suelo, que lloraba mientras un mono lo tocaba; a su alrededor, varios adultos en círculo filmaban la escena con sus teléfonos y gritaban, y cada tanto el mono los atacaba. "Instagram halló que el video no violaba sus pautas", señaló Business Insider.

Otros ejemplos de recomendaciones que recibieron los autores del artículo incluyeron un video en el cual un grupo de hombres engañaba a una trabajadora sexual y le hacía creer que la iban a arrestar; una mujer que sacaba "algo largo y lleno de sangre" de su nariz y varias escenas sexualmente sugestivas.

MÁS SOBRE ESTE TEMA: