Nuevo México demanda a Snapchat por depredación sexual de menores

Snapchat es un “caldo de cultivo” para los depredadores que buscan recolectar imágenes sexualmente explícitas de niños y extorsionarlos, argumenta el estado de Nuevo México en una demanda presentada el miércoles por la noche contra el propietario de la popular aplicación social, Snap.

La demanda alega que los mensajes y fotos que desaparecen, que han diferenciado durante mucho tiempo a Snapchat de sus competidores, la convirtieron en un destino singularmente atractivo para las conversaciones más feas en Internet. Durante una investigación encubierta de varios meses, el Departamento de Justicia de Nuevo México dijo que encontró evidencia de que la aplicación recomienda cuentas de extraños a usuarios menores de edad de Snapchat, quienes luego son contactados y persuadidos para intercambiar imágenes sexualmente explícitas de ellos mismos.

“Mientras fallaba en prevenir, identificar o proteger incluso a los niños pequeños en su plataforma, Snap los introdujo en el equivalente a un espectáculo solo para adultos, para el que no solo eran una audiencia inapropiada, sino a menudo el objeto principal”, dijo la demanda, que fue vista en exclusiva por The Washington Post.

La investigación implicó crear una cuenta señuelo llamada “Sexy14Heather”, utilizando imágenes generadas por IA para simular a una niña de 14 años. La demanda alega que la cuenta falsa recibió una avalancha de recomendaciones para contactar cuentas que buscan intercambiar mensajes y fotos sexualmente explícitas, incluyendo usuarios con nombres como “teentradevirgin” y otras frases sexuales.

La demanda presentada por el Fiscal General de Nuevo México, Raúl Torrez, dice que Snap violó la ley estatal contra prácticas comerciales engañosas, engañando al público sobre cuán segura era la plataforma para poder seguir lucrando con los jóvenes usuarios. La demanda alega que la compañía hizo una serie de afirmaciones y omisiones engañosas sobre la proliferación de contenido ilícito en Snapchat, incluso cuando su propia investigación interna mostraba que los jóvenes usuarios frecuentemente encontraban contenido dañino.

La demanda catapulta a Snap, con sede en Santa Mónica, California, al centro de un creciente esfuerzo internacional para abordar la proliferación en línea de material de abuso sexual infantil, o CSAM. En medio de un debate cada vez más intenso sobre cómo proteger a los niños en línea, los reguladores se están enfocando en el papel que juegan las aplicaciones que combinan mensajería y redes sociales en fomentar contenido ilegal.

El portavoz de Snap, Russ Caditz-Peck, dijo que la compañía estaba revisando la queja y planeaba responder a las acusaciones en el tribunal.

“Compartimos las preocupaciones del Fiscal General Torrez y del público sobre la seguridad en línea de los jóvenes y estamos profundamente comprometidos en que Snapchat sea un lugar seguro y positivo para toda nuestra comunidad, particularmente para nuestros usuarios más jóvenes”, dijo Caditz-Peck en un comunicado.

En junio, la compañía publicó un blog detallando las formas en que estaba mejorando la seguridad en la plataforma, incluida la ampliación de las advertencias cuando extraños agregan a un adolescente en la aplicación y facilitando el bloqueo de alguien a quien un usuario ya no desea contactar.

La semana pasada, en una sorprendente demostración de los reguladores tomando medidas, los fiscales franceses acusaron al CEO del popular servicio de mensajería Telegram de cargos que incluían complicidad en la distribución de imágenes de abuso sexual infantil.

Los reguladores han estado examinando durante mucho tiempo el papel que juegan las redes sociales en facilitar el abuso sexual de niños, y el año pasado, el Fiscal General de Nuevo México presentó una demanda similar contra Meta y el CEO Mark Zuckerberg. Simultáneamente, agencias de aplicación de la ley de todo el mundo han advertido que las aplicaciones encriptadas proporcionan un refugio para los pedófilos y otros criminales porque hacen imposible que los investigadores accedan al contenido de sus mensajes. Las recientes acciones contra Snap y Telegram indican que los reguladores están lanzando una red más amplia y cada vez más mirando hacia servicios híbridos, que presentan riesgos únicos.

Los investigadores de Nuevo México también encontraron un vínculo entre Snap y Telegram, encontrando cuentas en la aplicación de mensajería con sede en Emiratos Árabes Unidos que distribuían imágenes explícitas de jóvenes capturadas en Snap. Las búsquedas de los investigadores en Telegram encontraron cuentas que compartían imágenes sexualmente explícitas de jóvenes.

Snapchat es singularmente popular entre los adolescentes, con la mitad de todos los adolescentes en los Estados Unidos informando que usan la aplicación todos los días. Torrez, un demócrata, dijo a The Post en una entrevista que su oficina vio muchos casos donde los jóvenes, especialmente los chicos, caían víctimas de esquemas de “sextorsión” en Snap porque creían que la naturaleza desaparecedora de los mensajes hacía que fuera un lugar seguro para compartir imágenes explícitas. Snap notifica a los usuarios cuando se toma una captura de pantalla o grabación de pantalla de un mensaje, pero hay muchas aplicaciones de terceros y soluciones alternativas para evadir esa función.

Muchos jóvenes usuarios de Snapchat, sin darse cuenta de lo fácil que es preservar las imágenes, son extorsionados cuando el depredador guarda la imagen y amenaza con divulgarla a su escuela o familia.

“Existe la noción de que el contenido que se intercambia en la plataforma desaparece para siempre”, dijo Torrez. Snap “ha creado esta falsa sensación de seguridad en la forma en que ha comercializado la plataforma... y eso la hace tan peligrosa, especialmente para los jóvenes”.

Durante su investigación, el Departamento de Justicia de Nuevo México descubrió una vasta red de sitios en la web oscura enfocados en compartir imágenes sexuales robadas y no consensuadas de Snapchat, compilando lo que la demanda denominó un “anuario virtual de explotación infantil”. Los investigadores encontraron más de 10.000 fotos y videos explícitos aparentemente vinculados a Snapchat, incluidos ejemplos de menores de menos de 13 años siendo agredidos sexualmente. Snapchat fue, con mucho, la fuente más común de las publicaciones de CSAM que los investigadores encontraron en los sitios de la web oscura.

Uno de esos sitios incluía un manual sobre cómo participar en la extorsión, incluidos consejos para tomar el control de la cuenta de una víctima. La guía describe a Snapchat como “la mejor aplicación para la sextorsión, ya que el perpetrador puede tomar capturas de pantalla sin que las víctimas se den cuenta”.

Las cuentas de los investigadores de Nuevo México también recibieron recomendaciones de cuentas que aparentemente estaban enfocadas en conocer o recolectar imágenes explícitas de niños, con nombres de usuario como uno llamado “ilikekids60″ que incluye la frase “Kids under12″ con un emoji de ojos de corazón. Snap también mostró cuentas con nombres sexualmente explícitos en respuesta a las consultas de los investigadores sobre términos asociados con el abuso sexual infantil.

La demanda alega que estas características facilitan no solo la explotación infantil, sino también otras actividades ilícitas, incluyendo la venta de drogas y armas. Torrez dijo que su oficina ha abierto una investigación sobre el papel de las plataformas de redes sociales en el tráfico de estos bienes ilícitos.

La demanda se centra estrechamente en violaciones de la ley estatal de Nuevo México, pero Torrez dijo que planea compartir los hallazgos de su oficina con otros estados, así como con el Departamento de Justicia de los Estados Unidos. Nuevo México no está entre los más de 40 estados y territorios que el año pasado se unieron para demandar a Meta por construir características adictivas.

Los reguladores estatales han estado desempeñando un papel mayor en la vigilancia del poder de las grandes compañías tecnológicas, después de años de esfuerzos fallidos para aprobar leyes actualizadas de seguridad en línea en el Congreso. En julio, el Senado aprobó un proyecto de ley histórico para proteger a los niños en línea, pero el proyecto no ha sido considerado por la Cámara de Representantes.

“La mayoría de los votantes en este país - tanto republicanos como demócratas - se están dando cuenta de la amenaza que esto representa, no solo para la salud mental, sino también para el bienestar físico de sus hijos”, dijo Torrez. “Eventualmente eso va a forzar una conversación mucho más difícil y dura entre los legisladores en Washington D.C. para tomar acciones concretas”.

(c) 2024 , The Washington Post