X bloqueó las búsquedas de Taylor Swift tras las filtraciones de fotos explícitas de la cantante creadas con IA

La plataforma X ha bloqueado búsquedas relacionadas con Taylor Swift luego de que imágenes sexualmente explícitas de la estrella del pop, creadas mediante inteligencia artificial (IA), se difundieran ampliamente. Este episodio resalta la creciente preocupación entre las redes sociales por abordar el problema de los deepfakes: imágenes y audios realistas generados con IA que pueden ser utilizados para representar a individuos famosos en situaciones comprometedoras o engañosas sin su consentimiento.

Durante el fin de semana, intentos de buscar términos como “Taylor Swift” o “Taylor IA” en X resultaron en mensajes de error, tras la proliferación en línea de imágenes pornográficas generadas por IA de la cantante en días recientes. Esto implicó que incluso el contenido legítimo sobre Swift se hiciera más difícil de acceder en la plataforma.

Joe Benarroch, jefe de operaciones comerciales en X, explicó que esta medida es temporal y se tomó como precaución para priorizar la seguridad en el asunto. Hasta el momento, Swift no ha hecho comentarios públicos sobre el incidente.

El incidente ocurre en un contexto donde X, adquirida por el empresario multimillonario Elon Musk por 44 mil millones de dólares, ha reducido los recursos destinados a la moderación de contenidos y suavizado sus políticas, reflejando los ideales de libertad de expresión de Musk.

Un mercado activo de herramientas permite a cualquier persona utilizar IA para crear videos o imágenes a semejanza de una celebridad o político con tan solo unos clics. Aunque la tecnología deepfake está disponible desde hace varios años, avances recientes en IA han facilitado la creación de imágenes más realistas. Los expertos advierten que la pornografía falsa es uno de los abusos emergentes más comunes de la tecnología deepfake, y también señalan su uso creciente en campañas de desinformación política.

Siendo una de las personalidades con más influencia del mundo, el caso de Taylor Swift llegó hasta la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, quien calificó la circulación de las imágenes falsas como “alarmante”, reiterando que, si bien, las empresas privadas cuentan con sus propias normas para regular contenidos, también tienen una responsabilidad con sus usuarios que deben cumplir.

“Aunque las empresas de medios sociales toman sus propias decisiones independientes sobre la gestión de contenidos, creemos que tienen un papel importante que desempeñar a la hora de hacer cumplir sus propias normas”.

El pasado 26 de enero, la cuenta oficial de seguridad de X declaró que publicar imágenes de “Desnudez No Consensuada (DNC)” está “estrictamente prohibido” en la plataforma, manteniendo una “política de tolerancia cero hacia dicho contenido”. La empresa afirmó que sus equipos están eliminando activamente todas las imágenes identificadas y tomando medidas adecuadas contra las cuentas responsables, además de monitorear de cerca la situación.

Sin embargo, la limitada capacidad de moderación de contenido de X no pudo evitar que las imágenes falsificadas de Swift fueran vistas millones de veces antes de su eliminación, forzando a la compañía a bloquear búsquedas de una de las estrellas más grandes del mundo.

Un reporte del sitio de noticias tecnológicas 404 Media indicó que las imágenes podrían haberse originado en la controversial plataforma de 4chan y en la aplicación de mensajería Telegram.