Una reciente investigación evidenció la preocupante interacción de hombres adultos, incluidos delincuentes sexuales condenados, con anuncios de productos destinados a niñas en Instagram.
Este hallazgo, derivado de una inquietante experiencia compartida por una fabricante de joyería para niñas al The New York Times, reveló la complejidad y los peligros inherentes de las plataformas de redes sociales gestionadas por Meta, y cómo sus algoritmos pueden facilitar inadvertidamente estas interacciones nocivas.
La comerciante, cuya intención era promocionar su mercancía a un público mayoritariamente femenino interesado en temas como la crianza de los hijos, la danza y el ballet, descubrió que, contrario a sus expectativas, los anuncios fueron vistos casi exclusivamente por hombres adultos.
Otras empresas de distintos sectores han manifestado preocupación por cómo la plataforma maneja la distribución de sus anuncios. Por ejemplo, Bella & Omi, una empresa de ropa infantil en Virginia Occidental, y Tightspot Dancewear Center en Pensilvania, han limitado sus anuncios exclusivamente a mujeres tras recibir comentarios inapropiados de hombres.
Del mismo modo, Young Days, una compañía de ropa infantil en Utah, informó sobre un incremento en el porcentaje de hombres a quienes se dirigían sus anuncios sin cambios significativos en sus criterios de segmentación, lo que ha afectado negativamente sus ventas.
Esta situación alarmante llevó al The New York Times a realizar su propia investigación, la cual confirmó que los anuncios que mostraban a una niña de cinco años atraían principalmente la atención de hombres adultos, algunos de los cuales eran delincuentes sexuales condenados quienes expresaban un interés sexual en las imágenes de la menor.
Meta respondió a estos hallazgos del diario, describiéndolos como una “experiencia fabricada” y criticando las pruebas de publicidad realizadas por The New York Times. Dani Lever, portavoz de Meta, argumentó que los experimentos no tomaban en cuenta “los muchos factores que contribuyen a quién finalmente ve un anuncio”, y calificó las conclusiones de ser “falibles y erróneas”.
El algoritmo
Cuentas de prueba creadas el año pasado por otro diario estadounidense, The Wall Street Journal, pusieron bajo el foco a los algoritmos de Meta, la compañía matriz de Instagram y Facebook, señalados por clasificar y recomendar fotografías sexualizadas de menores y adultos a usuarios con interés previo en temáticas relacionadas con gimnastas jóvenes, animadores y otros menores.
Dean Eckles, ex científico de datos de Facebook y actual profesor en el Massachusetts Institute of Technology, explicó que las herramientas comparan las nuevas imágenes con las existentes en la plataforma, identificando a los usuarios que previamente han mostrado interés en ellas. Si bien los sistemas de recomendación y entrega de anuncios de Meta no son exactamente iguales, “hay enormes similitudes entre los modelos,” afirma Eckles.
La indagación se profundizó al revelarse que, aunque los equipos de seguridad de Meta intentan detectar anuncios dañinos, tales como aquellos que promueven estafas o drogas ilegales, es más desafiante identificar anuncios benignos que terminan siendo entregados a audiencias inapropiadas y potencialmente nocivas.
Un análisis hecho por The Times de los datos de audiencia de Instagram demostró que, en ciertos casos, los anuncios dirigidos predominantemente a mujeres terminaban siendo mostrados mayoritariamente a hombres, alcanzando en una de las pruebas un promedio de visualización masculina del 95% cuando las fotos incluían a niños.
Piotr Sapiezynski, científico investigador en la Universidad Northeastern, destaca la competencia entre anunciantes por alcanzar al público femenino, dado su dominio en el gasto de consumo en Estados Unidos. Esto podría hacer que el algoritmo se enfoque en los hombres que muestran un interés elevado y son más fáciles de alcanzar porque han interactuado con contenido similar.
Meta reconoció el ambiente competitivo del mercado publicitario dirigido a mujeres, argumentando que la “baja calidad” de los anuncios de The Times —de cuentas nuevas, con imágenes pero sin texto ni explicaciones— contribuyó a que fueran entregados predominantemente a hombres. La compañía también aclaró que los datos de Audiencia de Meta solo muestran “una estimación de quién es potencialmente elegible para ver un anuncio”, no una audiencia garantizada.
Sin embargo, este argumento no satisface completamente la preocupación de por qué los anuncios que incluyen a niños fueron dirigidos más frecuentemente a hombres. “El algoritmo probablemente se centró en hombres altamente interesados, más fáciles de alcanzar que interactuaron con contenido similar”, recapituló Sapiezynski.
Depredadores sexuales al acecho
La investigación también logró establecer cómo condenados por delitos sexuales consiguieron interactuar y comunicarse a través de Instagram con cuentas que los reporteros habían establecido como carnada, poniendo al descubierto serias fallas en los protocolos de seguridad de la plataforma.
Utilizando anuncios de prueba, los periodistas atrajeron a individuos previamente arrestados por crímenes contra menores, algunos de los cuales no tardaron en enviar mensajes inapropiados y realizar llamadas telefónicas a los perfiles ficticios de las víctimas.
El experimento expuso a cuatro delincuentes sexuales convictos, que usaron sus nombres reales y fotos en sus perfiles de Instagram, o que estaban vinculados a cuentas de Facebook. La confirmación de sus condenas se logró al cotejar esta información con las bases de datos de delincuentes sexuales y otros registros públicos.
Entre ellos, se encontraba un hombre de Nueva York, condenado por agredir sexualmente a una niña de cuatro años, quien, a pesar de las reglas estatales que exigen a los ofensores sexuales registrar sus direcciones de correo electrónico con las empresas tecnológicas, logró crear una cuenta en Instagram.
Los implicados mostraron diversos comportamientos al interactuar con los anuncios. Uno de ellos, arrestado en 2015 en Oklahoma, por intentar organizar actos sexuales grupales con menores a través de Facebook, se puso en contacto con una de las cuentas de prueba poco después de publicado el anuncio.
Otro, detenido en 2020 en Nueva York tras ofrecer recoger a una niña de 14 años para tener relaciones sexuales, continuó enviando mensajes inquisitivos incluso después de que The Times revelara la naturaleza periodística de la cuenta. Mientras tanto, un individuo en Tennessee marcó como “me gusta” en una de las fotos y se descubrió que tenía cuatro condenas por delitos sexuales contra menores.
Adicionalmente, otros cinco hombres con antecedentes de arrestos relacionados con crímenes contra niños interactuaron con los anuncios. Estos sujetos, según registros judiciales revisados por The Times, se declararon culpables de cargos menores o fueron declarados mentalmente incompetentes para ser juzgados.
Aunque las reglas de Instagram prohíben que los delincuentes sexuales condenados mantengan cuentas, los perfiles de estos individuos permanecieron activos en la plataforma durante aproximadamente una semana después de ser reportados, hasta que finalmente fueron eliminados una vez que el diario se puso en contacto con un portavoz de la compañía.