TikTok prohibió rostros falsos alterados con inteligencia artificial

TikTok dio a conocer nuevas restricciones para las publicaciones que alteren rostros de personas para engañar a los usuarios y creando contenido falso, algo que estaba revisando la aplicación con las autoridades de Estados Unidos, la Unión Europea y otros países.

Este tipo de videos son generados con inteligencia artificial en el que una persona puede modificar su cara al punto de parecer otra, como por ejemplo a un famoso. Aprovechando eso para difundir comentarios falsos, homofóbicos, transfóbicos, racistas y en general de odio.

Le puede interesar: El Reino Unido prohibió el uso de TikTok en los teléfonos del gobierno

Los contenidos en los que una persona modifica su rostro son conocidos como deepfakes y han sido una preocupación en el último tiempo, tras la aparición de filtros detallados y de herramientas de inteligencia artificial que permiten generar credibilidad ante la calidad de la réplica creada.

Hasta el momento, TikTok tenía una única regla frente a este tipo de videos, al prohibir el contenido que pudiese “engañar a los usuarios distorsionando la verdad de los eventos o causar un daño significativo al sujeto del video”.

Le puede interesar: Cómo pautar una publicación, Reel o Historia en Instagram

Para detener la cantidad de nuevos videos falsos, los usuarios están obligados a etiquetar todo el contenido de este tipo como ‘generado con inteligencia artificial’.

De esta forma, los demás podrán ver un sticker en la descripción del video, similar a la del filtro o la música, y se les informará que esta tecnología está interfiriendo, lo que permite identificar una potencial suplantación.

Para reforzar esa regla, la red social tampoco permitirá ningún contenido que “contenga semejanza con cualquier figura privada real”. Con el objetivo de evitar que alguien se haga pasar por una celebridad, un político o un líder de opinión y promueva información falsa.

Finalmente, TikTok etiquetará todos estos videos alterados con inteligencia artificial como “sintéticos y manipulados”, sumándolos a las prohibiciones que tienen otros temas como contenido sexual, violencia gráfica o discursos de odio.

Estas regulaciones llegan en medio de las posibles prohibiciones a las que se enfrenta la aplicación en Estados Unidos, al limitar su acceso en teléfonos del gobierno, militares y algunas universidades. Algo que también sucedió en la Unión Europea, Reino Unido, Canadá y Nueva Zelanda.

Una situación a la que se suman las acusaciones de espionaje, lo que ha llevado a ByteDance, empresa dueña de la red social, a plantearse una posible venta.

Le puede interesar: Disney obliga a Reddit a identificar a usuarios que filtren información sobre sus películas

Ante las dificultades para solucionar la situación de la aplicación, se está evaluando una posibilidad que podría ayudarle a asegurar su continuidad en Estados Unidos. TikTok podría llevar a cabo una desinversión y una posterior venta u oferta pública inicial para separarse de ByteDance Ltd, su empresa matriz.

Este es el último recurso al que la compañía recurriría y se llevaría a cabo solo si no consigue aprobar la actual propuesta planteada a las autoridades de seguridad nacional.

Desde hace meses, el Gobierno de Joe Biden alerta de los peligros del uso de la aplicación, que podría derivar en manipulación o espionaje por parte de China. A raíz de ello, varios organismos federales bloquearon la red social de los dispositivos oficiales a fin de limitar la exposición de datos sensibles pero, al no considerarlo suficiente, dispusieron una intensa revisión de seguridad de parte del Comité de Inversiones Extranjeras.

Tras esta resolución, se lanzó el Proyecto Texas: en el que la empresa se comprometió a implementar una serie de cambios. Entre ellos, suma al gigante tecnológico estadounidense Oracle Corp. para que almacene los datos de los usuarios del país y revise su software. Además, aceptó el nombramiento de una junta de supervisión integrada por tres personas y aprobada por el Gobierno.