EEUU y sus aliados desmantelan una “granja de robots” rusa impulsada por inteligencia artificial

Estados Unidos y varios aliados dijeron el martes 9 de julio que habían tomado el control de una sofisticada fábrica de propaganda rusa que usaba inteligencia artificial para manejar casi mil cuentas encubiertas en la red social X.

Aunque los gobiernos han recurrido cada vez más a la inteligencia artificial durante el último año para difundir mensajes de forma más amplia y creíble, el desmantelamiento es inusual porque las agencias de inteligencia occidentales lo rastrearon hasta un oficial de la fuerza de inteligencia rusa FSB y hasta un ex editor senior de la publicación controlada por el estado RT, anteriormente llamada Russia Today, como se explica en los documentos judiciales.

En un comunicado conjunto sorprendentemente detallado, agencias de los Estados Unidos, los Países Bajos y Canadá identificaron varios programas de software utilizados para gestionar la red, incluido uno llamado Meliorator, que creaba usuarios ficticios conocidos como “almas” en varios países. El FBI obtuvo una orden judicial que le permitía confiscar dos dominios web que la operación había utilizado para registrar las direcciones de correo electrónico detrás de las cuentas.

“Las acciones de hoy representan una primicia en la desarticulación de una granja de bots de redes sociales mejorada con inteligencia artificial generativa patrocinada por Rusia”, dijo el director del FBI, Christopher A. Wray, en un comunicado. “Rusia tenía la intención de utilizar esta granja de bots para difundir desinformación extranjera generada por inteligencia artificial, ampliando su trabajo con la ayuda de la inteligencia artificial para debilitar a nuestros socios en Ucrania e influir en las narrativas geopolíticas favorables al gobierno ruso”.

Las cuentas automatizadas con biografías más detalladas publicaron contenido original, mientras que un grupo de cuentas más genéricas les dio “me gusta” y compartieron esas publicaciones. Los funcionarios no respondieron a las preguntas sobre cuántos usuarios reales vieron las publicaciones y si alguno difundió más los mensajes, por lo que no está claro cuán efectiva fue la campaña.

El sistema eludió una de las técnicas de X para verificar la autenticidad de los usuarios al copiar automáticamente las claves de un solo uso enviadas a las direcciones de correo electrónico registradas. Las referencias a Facebook e Instagram en el código del programa indicaban que la operación pretendía expandirse a esas plataformas, dijeron los funcionarios.

Las agencias recomendaron que las empresas de redes sociales mejoren sus métodos para detectar comportamientos automatizados encubiertos. X cumplió con una orden judicial de proporcionar información sobre las cuentas al FBI y luego las borró. La empresa no respondió a las preguntas de The Washington Post.

El Departamento de Justicia agradeció a X por su cooperación durante la investigación, una señal de mejores comunicaciones entre el gobierno y las grandes empresas de redes sociales después de que la Corte Suprema confirmó el derecho de los funcionarios a señalar operaciones de influencia extranjera.

John Scott-Railton, investigador de la organización canadiense sin fines de lucro Citizen Lab, dijo que los países proporcionaron información tan detallada sobre el funcionamiento interno de la botnet para ayudar a otros investigadores y empresas a saber qué buscar. “No creen que este problema vaya a desaparecer, por eso lo están compartiendo ampliamente”, dijo Scott-Railton.

Los documentos muestran que los grandes modelos lingüísticos de la IA han ayudado a los propagandistas rusos a ampliar su operación y a colaborar con la traducción, afirmó. También les ayuda a evitar el software de detección que busca el uso repetido de las mismas direcciones de protocolo de Internet y otros identificadores.

Pero ya hay muchos otros sistemas en funcionamiento y mejorarán a medida que se adapten a lo que se detecta y lo que pasa, dijo Scott-Railton. “Esto no es ni siquiera la punta del iceberg”, dijo. “Esto es solo la gota del iceberg”.