Taylor Swift y sus desnudos hechos con IA: CEO de Microsoft dice “hay que actuar ya” ante los deepfakes

El CEO de Microsoft, Satya Nadella, dijo que la empresa necesita “moverse rápido” para enfrentar a las imágenes sexuales falsas creadas por inteligencia artificial y sin consentimiento de Taylor Swift.

Nadella se refirió a estas imágenes falsas (conocidas como deepfakes, que son imágenes o videos alterados con IA para que parezcan reales) de Swift publicadas en X (antes Twitter), las cuales hasta hace poco habían alcanzado más de 27 millones de vistas.

La cuenta que las compartió fue cerrada después de que muchos seguidores de Swift la reportaran.

“Sí, tenemos que actuar rápido”, afirmó Nadella a NBC News cuando se le preguntó acerca de las imágenes falsas de Swift. “Todos salimos ganando cuando el internet es un lugar seguro. Así que nadie quiere un espacio online inseguro, ni para quienes crean contenido ni para quienes lo consumen. Por tanto, es nuestra responsabilidad actuar de inmediato en esta situación.”

X no ha hecho comentarios sobre las imágenes alteradas con IA y el representante de la cantante optó por no comentar al respecto.

Microsoft ha hecho inversiones significativas en tecnología de inteligencia artificial, incluyendo una contribución importante a OpenAI, una de las empresas líderes en IA que desarrolló ChatGPT.

Además, han integrado herramientas de IA, como Copilot, un asistente basado en IA, en sus productos, por ejemplo, en el buscador de internet Bing.

“Vuelvo a lo que creo que es nuestra responsabilidad, que son todas las barreras que necesitamos colocar alrededor de la tecnología para que se produzca más contenido seguro”, expresó Nadella. “Y hay mucho por hacer y mucho por hacer allí”.

“Pero se trata de una cuestión global, social, ya sabes, diré convergencia en ciertas normas”, continuó. “Especialmente cuando tienes la ley, las fuerzas del orden y las plataformas tecnológicas que pueden unirse, creo que podemos gobernar mucho más de lo que nos damos crédito”.

404 Media reveló que las imágenes falsas de Swift que se popularizaron en X se originaron en un grupo de chat de Telegram, donde los usuarios mencionaron haber utilizado Designer, una herramienta de inteligencia artificial de Microsoft, para generar dicho contenido.

Nadella no hizo comentarios específicos sobre dicho informe, pero Microsoft indicó que estaba investigando los informes y que tomaría las medidas necesarias para responder a la situación.

“Nuestro Código de Conducta prohíbe el uso de nuestras herramientas para la creación de contenido íntimo para adultos o no consensuado, y cualquier intento repetido de producir contenido que vaya en contra de nuestras políticas puede resultar en la pérdida de acceso al servicio”, dijo Microsoft en su declaración.

“Tenemos grandes equipos trabajando en el desarrollo de barandillas y otros sistemas de seguridad en línea con nuestros principios de IA responsable, incluido el filtrado de contenido, el monitoreo operativo y la detección de abuso para mitigar el uso indebido del sistema y ayudar a crear un entorno más seguro para usuarios”, añadieron.

Mas adelante, Microsoft ofreció una respuesta actualizada en la que afirmó: “Tomamos estos informes con la mayor seriedad y estamos comprometidos a ofrecer una experiencia segura para todos. Tras investigar estos informes, no logramos generar las imágenes explícitas mencionadas.

“Nuestros filtros para contenido inapropiado estaban activos y no hallamos pruebas de que hayan sido eludidos. Como medida de precaución, hemos implementado mejoras en nuestros sistemas de filtrado de texto y tomado acciones para prevenir el mal uso de nuestros servicios”, dijeron.

Estas creaciones digitales alteradas con fines maliciosos, retratan a la popular artista de manera explícita con algunos elementos que hacen alusión al equipo profesional de fútbol americano Kansas City Chief, debido a las recientes visitas que ha realizado a su estadio para presenciar los encuentros deportivos de su novio, el jugador estrella Travis Kelce.