Instagram tiene un problema con los opiáceos y sus algoritmos lo empeoran

Instagram es conocido por las publicaciones que hacen las celebridades y las fotos de vacaciones de ensueño que aparecen en la plataforma. Pero también se ha convertido en un mercado abierto considerable para publicitar drogas ilegales. En las últimas semanas, la compañía se ha comprometido a tomar medidas, pero está luchando para mantenerse al día con sus propios algoritmos y sistemas, que ofrecen una gama de contenido personalizado relacionado con los narcóticos dirigido directamente a personas que muestran interés en comprar sustancias ilícitamente.

Las búsquedas recientes en Instagram –que es propiedad de Facebook- de hashtags con nombres como #oxy, #percocet, #painkillers, #painpills, #oxycontin, #adderall y #painrelief revelaron miles de mensajes de personas que están luchando contra la adicción, los que se jactan de su estilo de vida fiestero y los que se dejan seducir por los traficantes de drogas.

Seguir la cuenta de un traficante o darle un "me gusta" a una de sus publicaciones hizo que los algoritmos de Instagram funcionaran según lo diseñado. En estos casos, sugirió a otros vendedores a que siguieran a otros usuarios interesados en el mismo tema e introduciendo nuevos hashtags. Los anuncios de algunas de las marcas más grandes e importantes del país, incluidos Target, Chase y Procter & Gamble, así como también el servicio de streaming de Facebook, aparecían junto a publicaciones que vendían pastillas ilegalmente.

En una audiencia en el Congreso de Estados Unidos, los altos ejecutivos de Facebook y Twitter, que también han luchado durante mucho tiempo contras las publicaciones que ofrecen drogas ilegalmente, se comprometieron a reprimir las ventas de opiáceos y otras drogas, ya que sus plataformas parecían mercados abiertos para publicitar tal contenido. La directora de operaciones de Facebook, Sheryl Sandberg, dijo que su compañía estaba "firmemente en contra" de tal actividad. El presidente ejecutivo de Twitter, Jack Dorsey, señaló que estaba "observando profundamente" cómo se propaga la venta de drogas en su sitio.

Pero, durante años, los activistas y otros grupos han advertido a las compañías tecnológicas sobre las ventas de narcóticos ilegales en sus plataformas. En los últimos meses, los legisladores, la Administración de Alimentos y Medicamentos (FDA por sus siglas en inglés) y algunos anunciantes han participado en la refriega. En abril, el comisionado de la FDA, Scott Gottlieb, acusó a las compañías de Internet de no "tomar medidas prácticas para encontrar y eliminar listas de opiáceos". El senador Joe Manchin III tildó a las compañías de redes sociales de "imprudentes" y afirmó: "Ya es hora de poner la vida humana por encima de las ganancias e imponer medidas que repriman estas prácticas perjudiciales, evitando la venta de narcóticos ilegales en sus plataformas o a través de ellas".

La prevalencia de publicaciones sobre fármacos en las redes sociales, que según la FDA ayudó a alimentar la epidemia de opiáceos que se cobró más de 40.000 vidas en Estados Unidos el año pasado, muestra cómo las empresas tecnológicas, a menudo, se dejan engañar por el software que crearon. Los algoritmos que impulsan las redes sociales difunden contenido ilícito, desde avisos de drogas ilegales hasta información errónea y discursos de odio, más rápido de lo que las compañías son capaces de eliminarlo. Las características más comunes de las plataformas sociales, como los hashtags y los algoritmos que entregan feeds personalizados, dirigen las publicaciones de venta de drogas directamente a los usuarios que han expresado interés en ellas, lo que puede exponer a las personas más vulnerables a los fármacos adictivos.

"Así como el uso de drogas reconecta el cerebro para anhelar más sustancia, las plataformas de redes sociales han diseñado sus sitios de tal manera que después de una sola búsqueda de una droga ilícita, el algoritmo se reconecta para publicitar narcóticos para el usuario ya vulnerable", advirtió Rick Lane, un consejero de política tecnológica que ayudó a impulsar la legislación conocida como FOSTA-SESTA a través del Congreso. Esa ley responsabiliza a las empresas de tecnología de los casos de prostitución y tráfico sexual que se producen en sus plataformas. El hombre ahora está presionando por una legislación similar para los anuncios de opiáceos y otras drogas.

La vicepresidenta de soluciones de marketing global de Facebook, Carolyn Everson, afirmó que Instagram estaba prestando más atención a las ventas ilegales de drogas debido a un creciente enfoque en la seguridad y en la prevención de abusos de la plataforma, desde la intromisión rusa hasta las fake news. "Todavía no somos lo suficientemente sofisticados como para desmenuzar cada publicación para ver si está tratando de vender drogas ilegales a alguien o realmente están tomando Xanax porque están estresados", indicó Everson, refiriéndose a la tecnología de inteligencia artificial de la compañía. "Obviamente, hay algunas cosas que pasan que van en contra de nuestra política, y estamos mejorando", apostilló al respecto.

Recientemente, Instagram tomó medidas para bloquear algunos hashtags problemáticos y ha anunciado herramientas de apoyo a la adicción.

"Algunos de los comportamientos emergentes que hemos visto han presentado un nuevo desafío, y estamos enfocados para abordarlos junto a las fuerzas del orden público, otras empresas del sector y la FDA", expresó el portavoz de Twitter Ian Plunkett.

Las compañías farmacéuticas pueden promocionar sus marcas en las redes sociales, pero el proceso está altamente regulado por la FDA, y las empresas y las personas no pueden vender medicamentos reales a través de las redes sociales.

Las compañías de tecnología, que están levemente reguladas en comparación con otras industrias, enfrentan la perspectiva de reglas más estrictas sino pueden controlas los problemas.

Durante las audiencias tecnológicas de este mes, Manchin dijo a los ejecutivos que su estado había sido duramente afectado por la adicción a los opiáceos y que estaba interesado en presentar una ley basada en el tráfico sexual que responsabilizaría a las compañías por el tráfico de drogas en sus servicios.

John Montgomery, vicepresidente ejecutivo de seguridad global para el gigante de compras de publicidad GroupM, cuyas agencias trabajan con compañías como Procter & Gamble y Target, dijo que Instagram avanzaba demasiado lento. "Con el contenido farmacéutico ilegal, hay pocos matices. Entonces, debería ser posible identificar y bloquear de forma más rápida todo lo que hemos visto", agregó.

Instagram se ha convertido en una de las plataformas más potentes para el marketing de medicamentos, de acuerdo a Libby Baney, asesora principal del grupo de defensa "Alianza de farmacias más seguras en la red". Su creciente uso entre los adolescentes, su sofisticación en la personalización de contenido y la posibilidad de crear cuentas anónimas lo han convertido en un hervidero de promoción ilegal de drogas.

El lunes por la noche, los cofundadores de Instagram, Kevin Systrom y Mike Krieger, señalaron que estaban dejando la compañía. Adam Mossieri, un veterano adjunto al presidente ejecutivo de Facebook Mark Zuckerberg, es probable que se convierta en el próximo líder de la aplicación para compartir fotos, según una fuente familiarizada con el asunto.

Eric Feinberg, investigador y director ejecutivo de GiPEC, una empresa de ciberinteligencia de Nueva York que rastrea actividades ilegales como bienes falsificados y contenido terrorista en plataformas tecnológicas, comenzó a buscar publicaciones de drogas a través de hashtags obvios. Encontró cientos de publicaciones en Instagram que aparecían junto al contenido de 60 anunciantes diferentes. Algunos promocionaban las cuentas de Twitter correspondientes, y Weinberg también comenzó a rastrear esas cuentas. Algunas de las de Twitter eran aún más descaradas y habían estado disponibles durante años.

Tras seguir las cuentas de los vendedores, los algoritmos de Instagram comenzaron a entregar publicaciones sobre mercadeo de drogas directamente a su feed, sugiriendo cuentas de otros vendedores de narcóticos para los siguiera y presentando hashtags relacionados. En un momento dado, los mensajes de los vendedores constituían alrededor del 40 por ciento de su feed. Feinberg señaló que planea vender software de monitoreo, aunque su compañía aún no saca beneficio con eso.

Facebook remarcó que el feed de Feinberg no era una representación real de lo que la gran mayoría de la gente ve en sus cuentas, porque siguió exclusivamente a los actores malos y algunas marcas, lo que provocó que el algoritmo de la compañía agrupara los dos tipos de contenido. "Dicho eso, solo un mal contenido en nuestras plataformas es demasiado, y estamos trabajando arduamente para mejorar nuestra detección en la aplicación", argumentó el portavoz de Facebook Joe Benarroch.

La mayoría de las publicaciones que parecían ser de distribuidores tenían un formato similar: fotos de diferentes tipos de medicamentos subtitulados con una cadena de hashtags e instrucciones para contactar al titular de la cuenta a través de un canal externo a Instagram, como el correo electrónico o las plataformas de mensajería Wickr, Whatsapp o Kik (la mayoría de los textos incluían instrucciones explícitas para evitar "mensajes directos" en Instagram. Tales mensajes podrían rastrearse fácilmente).

En los últimos meses, Instagram tomó lo que describió como un paso extremo al bloquear los resultados de búsqueda de ciertos hashtags como #fentanilo, #cocaina y #heroina, aunque eso tuvo un efecto secundario no deseado de limitar la capacidad de las personas de buscar apoyo para el abuso de sustancias. Los hashtags aún se pueden usar y las publicaciones aún se pueden encontrar a través de la cuenta de una persona, aunque no estén disponibles a través de una búsqueda pública.

Para sortear los hashtags bloqueados, los vendedores ahora comercializan opiáceos bajo hashtags relacionados con Xanax y Adderall, muchos de los cuales se pueden buscar. También modifican ligeramente la ortografía de los nombres de los medicamentos e incluyen sus detalles de contacto en las mismas, como escribirlo en un papel y luego fotografiarlo, para evitar que las herramientas de software puedan identificar palabras clave problemáticas en un pie de foto. Instagram pareció suspender algunos hashtags cuando The Washington Post preguntó por ellos.

Los distribuidores parecen emplear una estrategia diseñada para evitar el monitoreo de Instagram, según alertó Feinberg. Publican con frecuencia, obteniendo un número pequeño de "me gusta" antes que los sistemas de Instagram los eliminen en 48 o 72 horas, a menudo porque los usuarios los identificaban como problemáticos. Tan pronto como se eliminó una cuenta, los traficantes crearon varias cuentas de Instagram con nombres similares, como FoxPharm, FoxPharm12, FoxPharm69 y FoxPharm90, todos con la misma información de contacto.

Algunos parecían haber sido creados automáticamente, sugiriendo que los vendedores están usando bots. Las diferentes repeticiones del nombre le hacían recordar a Feinberg algunas cuentas terroristas del Estado Islámico y los grupos de desinformación, que usan una táctica similar.

"Están jugando. Los derrotan y luego vuelven. Si las compañías de tecnología realmente estuvieran haciendo algo, no seguiríamos encontrándonos con esto", manifestó Feinberg.

Everson señaló que Facebook e Instagram estaban en las primeras etapas de desarrollo de herramientas de inteligencia artificial que podrían marcar el contenido de narcóticos. Ella lo comparó con los esfuerzos de Facebook, que comenzaron hace dos años, para construir un software de inteligencia artificial que dice que pueden detectar la mayoría de las cuentas del Estado Islámico antes de que la gente pueda verlas. Ahora están creando clasificadores visuales que pueden reconocer fotografías de píldoras particulares y detectar patrones comunes, como la inclusión de un número de teléfono para mover la transacción a una plataforma de mensajería cifrada.

Facebook también ofrece a los anunciantes herramientas para evitar que sus mensajes aparezcan junto a ciertos usuarios o categorías de contenido, incluida la tragedia o los problemas sociales controvertidos.

Este mes, Instagram también lanzó una notificación emergente que aparece cuando alguien busca hashtags de opiáceos, medicamentos recetados o drogas ilegales. La ventana emergente ofrece conectar a las personas con referencias de tratamiento gratuitas y confidenciales e información sobre el uso de sustancias, la prevención y la recuperación.