YouTube exigirá a los creadores etiquetar el contenido generado por IA

YouTube quiere permitir a los creadores aprovechar el poder de la inteligencia artificial, pero al mismo tiempo, también está implementando nuevas políticas que requieren que estos indiquen cuándo han subido contenido generado por esta tecnología.

De hecho, desde 2024, los youtubers tendrán que etiquetar el contenido generado por IA como “realista” cuando suben videos. Además, este requisito de divulgación será especialmente importante cuando se trate de temas como elecciones o conflictos en curso.

Mientras que los usuarios podrán solicitar la eliminación de videos que simulen “un individuo identificable” y asimismo los sellos discográficos asociados podrán solicitar que se elimine contenido que “imita la voz única de un artista”.

Los cambios se producen debido a que la IA generativa ha hecho que sea mucho más fácil crear vídeos de aspecto realista (deepfakes) que muestran escenarios ficticios o aprovechan la popularidad de reconocidas figuras para propagar desinformación o utilizar material protegido por derechos de autor.

YouTube advierte que las sanciones por no etiquetar con precisión el contenido generado por IA variarán, pero podrían incluir eliminaciones y desmonetización.

Y aunque por ahora no está claro cómo sabrá la plataforma si un video sin etiqueta fue realmente generado por IA. El portavoz de la plataforma, Jack Malon, afirmó que se está “invirtiendo en herramientas que nos ayuden a detectar y determinar con precisión si los creadores han cumplido con sus requisitos de divulgación cuando se trata de videos sintéticos o alterados”.

Aunque por ahora no existe una definición específica de lo que YouTube cree que significa “realista”, mientras que Malon aclaró, que la compañía proporcionará orientación más detallada con ejemplos cuando el requisito de divulgación entre en vigor el próximo año.

Además, resulta importante destacar que señalar que dichas herramientas aún no están disponibles y las actuales tienen un historial de rendimiento deficiente.

Las personas pueden enviar una solicitud para que YouTube elimine “contenido que simule a un individuo identificable, incluido su rostro o su voz”, utilizando un formulario de solicitud de privacidad.

Entonces, en caso de un deepfake, hay un proceso a seguir que puede resultar en que ese video desaparezca. Sin embargo, la compañía señaló que no se aceptarán todas las solicitudes, y se aplicarán umbrales de moderación de contenido más altos al material que es sátira o parodia y al contenido que imita a figuras públicas.

Este punto puede generar gran controversia, porque estos elementos son factores importantes en la defensa del uso legítimo en casos de infracción de derechos de autor y actualmente no existe una ley específica que regule los deepfakes hechos con IA

Sin embargo, YouTube está elaborando sus propias reglas para adelantarse a la curva y con las cuales podrá hacer cumplir de la manera que desee, sin necesidad de transparencia o una coherencia particular.

Adicionalmente, no habrá excepciones para la parodia y la sátira cuando se trata de contenido musical generado por IA de sellos discográficos asociados a la plataforma.

YouTube ofrecerá a sus aliados de la industria musical la posibilidad de solicitar a YouTube que elimine contenido que “imita la voz única de canto o rap de un artista”. La única excepción contemplada, es si el contenido es “objeto de noticias, análisis o crítica de las voces sintéticas”.

Malon también reveló que “las solicitudes de eliminación de música se realizarán a través de un formulario” que los sellos asociados deberán completar manualmente. .

Sin embargo, esto preocupa a muchos creadores con canales enteros dedicados a producir portadas de IA de artistas vivos y muertos, debido a que la mayoría estarían sujetos a eliminación por parte de los sellos.

YouTube ha sido durante mucho tiempo un entorno generalmente hostil para el análisis y la crítica musical debido a la aplicación excesivamente entusiasta de los derechos de autor. Mientras que Malon aclaró que inicialmente “el contenido eliminado, ya sea por una solicitud de privacidad o por una solicitud de voz sintética, no resultará en sanciones para quien lo sube”.

En este tema la compañía está caminando en una cuerda, debido a que no existe un marco legal establecido o caso judicial que diga que es ilegal entrenar un sistema de IA para cantar con la voz de Taylor Swift.