Los videos virales del falso Tom Cruise en TikTok con tecnología deepfake: ¿cuál es el peligro?

En el cúmulo de videos virales que salen de la red social china TikTok, por estos días hay una cuenta destacada que acapara la atención de millones de usuarios en el mundo. Se trata de deeptomcruise, dedicada a subir videos trucados, en diferentes situaciones de parodia protagonizadas por un falso Tom Cruise, a través de la tecnología de deepfake.

Deepfake nace de la unión de dos conceptos: el deep learning, como se conoce al aprendizaje profundo de sistemas de inteligencia artificial, y la palabra fake, es decir, falso. Hay diferentes herramientas gratuitas en internet que permiten usar esta técnica, como por ejemplo, FaceSwap, un software libre, de código abierto.

En el caso de los videos de Cruise, que son furor en TikTok, no se ha conocido qué herramienta usa el creador de la cuenta. Deeptomcruise tiene videos de parodia en donde alguien finge ser el actor, con una risa muy similar a la de Cruise y con una voz muy parecida también (aunque es posible detectar que no es la del actor).

Al momento, la cuenta tiene solo 3 videos subidos, con más de 343 mil seguidores, y más de 1 millón de “Me gusta”. En la cuenta de Twitter bajo el mismo nombre, su usuario aclara en la bio que es una cuenta de parodia para mostrar todo lo que se puede hacer con la tecnología.

En teoría, las cuentas de suplantación de identidad en TikTok no están permitidas, según sus términos y condiciones, pero, por el momento, la cuenta sigue activa. En la sección 7 denominada “Su uso de los servicios” de los términos de uso de la red social, se establecen determinadas acciones que el usuario no puede hacer. Entre ellas, la siguiente:

“Hacerse pasar por cualquier persona o entidad, o declarar falsamente o dar una imagen falsa de usted o de su asociación con cualquier persona o entidad, incluso dar la impresión de que cualquier contenido que usted suba, publique, transmita, distribuya o haga público de cualquier otra forma emana de los Servicios”.

Cruise tiene una cuenta verificada en TikTok, con más de 14 mil seguidores, pero ningún video subido todavía, y por lo tanto, 0 “Me gusta”.

¿Cuál es el peligro?

Las implicancias del deepfake son muchas y pueden resultar, cuando no se trata de videos de parodia (que incluso, pueden generar confusiones al viralizarse) realmente peligrosas, difundiendo contenidos falsos, fake news o suplantando identidades, por ejemplo en contratos o transacciones, entre varios ejemplos.

“Hace dos años, escuché el caso de un delincuente que, utilizando deepfake hizo llamadas al tesorero de su empresa pidiéndole que le transfiriera un dinero. El tesorero le dijo `habíamos dicho que no`. Y el robot le respondió diciendo que lo haga igual. Todo utilizando información falsa. Hace 10 años, necesitabas grabar al sujeto que querías suplantar en un estudio, con buenos micrófonos, sin sonido ambiente. Hoy en día se puede capturar, el audio y el video de videos institucionales, por ejemplo. A partir de eso, se pueden crear imágenes y audios falsos, haciéndose pasar por ese individuo”, señala a Infobae Ernesto Mislej, cofundador y científico de datos en 7Puentes, especializada en inteligencia artificial.

Agrega: “Cuando queremos hacer un trámite en la AFIP, o RENAPER o inclusive una compra en Mercado Libre, donde verifican tu identidad, te hacen hacer `morisquetas` delante del celular, la idea es tratar de verificar que vos sos un sujeto vivo, porque las tecnologías de deepfake podrían falsificar de eso... Con una fotografía de Tom Cruise podrías hacerlo guiñar un ojo, abrir la boca o girar... Y podrías pagarle los impuestos a Tom Cruise, por ejemplo”

MÁS SOBRE ESTE TEMA: