Los inquietantes deepfakes que están haciendo los creadores de memes

Grace Windheim —miembro de la plataforma creativa Kapwing, que ofrece recursos para enriquecer videos, gifs e imágenes— quiso probar qué se podía obtener al combinar un meme con un deepfake, como se llama a los videos digitalmente adulterados. Los deepfakes son clips perturbadores: utilizan inteligencia artificial o aprendizaje de máquinas para que parezca que sucedió algo que en realidad nunca pasó. Acaso el más famoso sea uno del ex presidente de los Estados Unidos Barack Obama, que lo mostró mientras pronunciaba un discurso que nunca tuvo lugar.

También se ve a Obama en otro —menos famoso, pero más reciente— como intérprete de la canción “Baka Mitai”, del popular videogame Yakuza, donde el personaje Kiryu la canta en un karaoke: “Da-me da ne”.

Windheim investigó y encontró que combinar un meme con un deepfake no sólo era fácil, sino también gratuito. Creó un video con las instrucciones, que en un mes logró casi 450.000 vistas en YouTube, en el cual alentó a quienes lo mirasen: “Hacer una de estos deepfakes y superponer el audio no es tan complicado como se piensa”.

Si bien originalmente eran costosos y difíciles de producir, por las dificultades de lograr imágenes verosímiles, las constantes mejoras de los softwares de edición han facilitado la creación de clips cada vez más realistas. “Windheim es parte de un nuevo grupo de creadores en línea que practican con los deepfakes a medida que la tecnología se hace más accesible y se filtra en la cultura de internet”, escribió Karen Hao en MIT Technology Review, la publicación del Instituto de Tecnología de Massachusetts (MIT).

“El fenómeno no es sorprendente”, siguió; “las herramientas de manipulación de los medios a menudo se han popularizado mediante el juego y la parodia. Pero también suscita nuevas preocupaciones acerca de su potencial de abuso”. De hecho, varias plataformas como Facebook, YouTube y Twitter prohibieron o limitaron los archivos multimedia manipulados, en general con excepción de las sátiras.

“Los deepfakes ya se han usado para acosar a mujeres al superponer, sin su consentimiento, sus caras en videos pornográficos”, agregó Hao. “A los académicos también les preocupa su capacidad para perturbar las elecciones. Mientras que los deepfakes creados como memes son obviamente falsos y relativamente inofensivos, eso podría no mantenerse así demasiado tiempo”.

Windheim, quien está a cargo del canal de YouTube de Kapwing y produce contenidos para promover esa web, trabajaba rutinariamente rastreando tendencias, a comienzos de agosto, cuando encontró una serie de palabras claves repetidas en tres de las cinco búsquedas principales en Google Trends: “Baka Mitai deepfake meme”. Le llamó la atención: rara vez se ve una búsqueda tan dominante.

Encontró el meme, que se basaba en la fonomímica de la canción “Baka Matai” (”He sido un tonto”) del video game japonés Yakuza. Había muchas creaciones que mostraban desde la Gioconda hasta Thanos, desde Ronald Reagan hasta el Sheriff Woody, cantando “Da-me da ne”. Pero a pesar de la popularidad del fenómeno, se había escrito muy poco sobre cómo realizar uno de esos deepfakes. Windheim pensó que sería una buena idea ofrecer un artículo instructivo.

El algoritmo específico que la gente estaba usando, explicó, provenía de un artículo académico que se presentó en 2019 en NeurIPS, la mayor conferencia anual de investigación de inteligencia artificial. “A diferencia de otros algoritmos más complejos, permite al usuario tomar cualquier video de la cara de una persona y usarlo para animar una foto del rostro de otra persona con sólo unas pocas líneas de código”, detalló Hao.

Windheim llevó el algoritmo, de código abierto, a un servicio gratuito para escribir código en la nube, Google Colab. Aplicando sus conocimientos de programación a las instrucciones, logró crear un deepfake. Luego, con las herramientas de Kapwing, creó una nueva versión en tono meme.

Muchos otros youtubers la imitaron y subieron tutoriales, con la diferencia de que muchos de ellos enseñan a sus audiencias a realizar cualquier clase de deepfake. “Hay una frontera muy delgada entre usar los deepfakes para entretenimiento y memes y usarlos para causar daño”, dijo Windheim a MIT Technology Review. “En este tutorial yo digo: ’Así hacemos este deepfake específico’. Pero lo aterrador de las instrucciones es que se pueden aplicar para realizar cualquier tipo de deepfake que se quiera”.

Ahora estos clips alterados se pueden ver en casi todas las plataformas, sobre todo en Twitter e Instagram y, desde luego, TikTok, donde el hashtag #deepfake logró más de 120 millones de menciones.

Desde luego, cierta imperfección en la manipulación de las caras que identifica a este algoritmo es parte del humor del meme, además de su resultado casi surrealista. “Pero al ritmo que avanza la tecnología es probable que pronto haya deepfakes fáciles de hacer que que resulten casi indistinguibles de la realidad. Algunas empresas, como el gigante tecnológico chino Tencent, dueño de WeChat, han anunciado públicamente sus intenciones de invertir más en el avance de los recursos actuales a fin de aplicarlos comercialmente”, completó Hao.

Si bien los deepfakes no son algo malo en sí mismo, su potencial para manipular la información en ocasiones como las campañas electorales requirió que Windheim y sus colegas de Kapwing mantuvieran una conversación sobre la ética de publicar las instrucciones y el código para hacerlos. “Nunca tuvimos la intención de que nuestros productos ayudaran a que algunos usuarios diseminaran desinformación”, dijo al MIT Technology Review. Así se decidieron por algunas reglas básicas, la principal de las cuales es que sus tutoriales se concentrasen en memes específicamente, no en deepfakes en otro contexto.

MÁS SOBRE ESTE TEMA: