Google presenta SynthID, una herramienta que añade marcas de agua a imágenes generadas por IA para diferenciarlas

Google ha presentado su nueva herramienta SynthID, con la que se podrán añadir marcas de agua digitales a los píxeles de las imágenes generadas por Inteligencia Artificial (IA) y, de esta forma, diferenciarlas con respecto a las imágenes reales. Uno de los ámbitos donde más se emplean las capacidades de la IA generativa es en la creación de imágenes desarrolladas por computadora o imágenes sintéticas, que potencian al máximo la creatividad de los usuario. Sin embargo, al permitir la creación de prácticamente todo tipo de contenido imaginable, las imágenes generadas por IA presentan riesgos como la difusión de información falsa o confusa. Además, también aparecen otras preocupaciones como la vulneración de los derechos de autor. En este sentido, basándose en su enfoque para desarrollar e implementar IA "de forma responsable", el equipo de Google DeepMind ha desarrollado junto a Google Research y en colaboración con Google Cloud, una herramienta capaz de marcar e identificar imágenes generadas por computadora. Se trata de SynthID y es una tecnología que agrega una marca de agua digital directamente en los píxeles de una imagen. De esta forma, es una marca imperceptible para el ojo humano pero, a través de un programa informático, es detectable para su identificación. Tal y como ha subrayado Google en un comunicado compartido en la página de DeepMind, los usuarios deben ser capaces de diferenciar qué contenido es generado por IA, ya que es "fundamental" para que las personas sepan cuándo interactúan con los contenidos multimedia generados y para "ayudar a prevenir la difusión de información errónea". Según ha explicado Google, esta técnica "no compromete" la calidad de la imagen, pero sí permite que la marca de agua sea detectable con la tecnología adecuada "incluso después de modificaciones", como pueden ser los filtros, cambiar colores o guardar la imagen con varios esquemas de compresión. En concreto, SynthID utiliza dos modelos de aprendizaje profundo, uno para crear las marcas de agua y otro para su identificación. Estos modelos se han entrenado de forma conjunta en un grupo diverso de imágenes. En cuanto al proceso de identificación, SynthID escanea la imagen en busca de la marca de agua digital e interpreta los resultados en base a tres niveles de confianza que van desde detectada, en caso de que identifique que ha sido creada por la IA; no detectada, si es una imagen real; y posiblemente detectada, para ocasiones en las que la marca de agua no deja muy clara su identificación. No obstante, Google ha reconocido que SynthID no es una tecnología infalible contra manipulaciones extremas de imágenes, pero ha destacado que es capaz de proporcionar un enfoque técnico "prometedor" para capacitar a personas y organizaciones a "trabajar con contenido generado por IA de forma responsable". De hecho, ha expresado que esta tecnología podría evolucionar en un futuro para implementarse en otro tipo de contenido como vídeos, audios e, incluso, texto. Por el momento SynthID aún está en desarrollo y, por ello, se ha lanzado una versión beta para un número limitado de clientes de Vertex AI que utilizan Imagen, que es uno de los últimos modelos de conversión de texto a imagen de Google.