La primera conductora creada con Inteligencia Artificial: sexismo sin filtro

Joven, blanca, flaca, con el pelo lacio, rasgos clásicos, vestida formal, con un crucifijo en el cuello, agradable y discreta. Que haya una conductora televisiva creada por Inteligencia Artificial no sorprende. Que sea hiper hegemónica y cumpla con todos los patrones de belleza y de estereotipos de género tal vez tampoco. Pero la no sorpresa es parte de la cajita de sorpresas de la IA: reproduce viejos estereotipos y abre nuevos riesgos. ¿Cuál es el adelanto si lo nuevo atrasa?

El perfil de la conductora hegemónica revela que la artificialidad refuerza los cánones artificiales creados por las mujeres por la cultura (¿no artificial?) y que el machismo se reproduce en los patrones entrenados para que las mujeres (tengan menos trabajo) y sean, todavía, más desplazadas de la pantalla. El machismo es artificial aunque no sea inteligente, pero se atribuyó la inteligencia por los siglos de los siglos. Pero la ultima ola de la tecnología no se entrenó en la cuarta ola feminista sino que reproduce el arquetipo de dos milenios atrás con tecnología que, supuestamente, es el último giro de la comunicación del futuro.

El nombre de la presentadora de ficción es una supuesta influencer llamada Alba Renai. El experimento generado para conducir un reality show (Supervivientes) es un avatar llevado al extremo entre un ser humano y el photoshop de la creación o la dictadura de los filtros con pieles sin manchas ni arrugas, ropa sin pliegues, cuerpos sin sobras (ni carne) y una prolijidad extrema que solo puede producir frustración en quién se intente comparar y una televisión menos realista y diversa (que ya no lo era), ni siquiera con modelos de mujeres lejanas a la realidad, sino con la irrealidad de la inteligencia artificial.

La periodista Ana Requena, redactora jefa de género de ElDiario.Es y autora del libro “Intensas”, advirtió que la presentadora replica los patrones de belleza en la mesa “Hacia la igualdad desde las redacciones: perspectiva de género, fuentes y lenguaje inclusivo”, presentada en el XXV Congreso de Periodismo de Huesca, el 14 de marzo, moderada por la directora de Público, Virginia Pérez Alonso y compartida con Isabel Valdés, corresponsal de Género en El País, en el que se resaltó la importancia de defender la libertad de expresión, los parámetros periodísticos contra el machismo y -también- la posibilidad de debatir y dudar.

“Ya hay empresas creando sus primeras periodistas (en femenino) con inteligencia artificial y, por supuesto, cumplen los cánones estéticos más prototípicos: mujeres jóvenes, delgadas, guapas, agradables, con pelo largo. Si no corregimos los sesgos el uso de la IA va a reproducir estereotipos y seguir creando la norma de lo que es deseable ver”, advierte Requena sobre la multiplicación del sexismo a través de la nueva generación de tecnologías que repiten los mismo que se trasmitía a través de la televisión, las revistas o los manuales de costumbres de generación en generación.

“Miro esa imagen -no esa persona, esa imagen- y veo al mundo, patriarcal, reducido a esa imagen en eso que tiene que ver con cómo tenemos que ser. Con cómo se supone que tenemos que ser. Con lo que nos han dicho que hemos de ser para ser deseables, queridas, valoradas, aceptadas y, por ende, visibles: pelo largo y liso, piel blanca con cierto bronceado y también lisa y suave, ni un poro, ni una marca, ni una sola asimetría, delgada, sonriente, pero no de forma excesiva”, destacó Isa Valdés.

Y analizó: “Todos los mandatos sociales desde la perspectiva masculina de la belleza femenina están en la creación de imágenes por Inteligencia Artificial como están en la publicidad, la comunicación, el arte. En cualquier parte. Un sistema generado a partir de la realidad existente y el aprendizaje de lo establecido no puede sino tener los mismos que de la base de la que se nutre. Pero la IA no es un organismo vivo y autónomo, hay personas alimentándola y usándola. Son esas personas, también con sus sesgos y su socialización quienes siguen reproduciendo la misma idea constreñidora e irreal de la belleza (también occidental, por cierto)”.

Valdés propuso: “Creo que todas y todos tenemos una responsabilidad en este tema como la tenemos en la vida real, cada día, de rechazo a lo que, en realidad, no nos representa y sí nos oprime. Ser guapas, ser perfectas: qué es eso y para quién y con qué objetivo. Los patrones de género relacionados quién eres y cuánto vales para el otro según tu nivel de deseabilidad es una de las cuestiones con mayor capacidad para someter a las mujeres y de forma más continúa, extendida y transversal”.

Más allá del debate sobre la presentadora, la IA presenta desafíos dentro del periodismo. Las nuevas tecnologías tuvieron un lugar central en el XXV Congreso de Periodismo de Huesca, organizado por la Asociación de Periodistas de Aragón, en España. Los experimentos, los debates, las normas y los riesgos fueron protagonistas de las ponencias, las preguntas, los miedos y los cambios que ya están presentes en el modo de consumir información y que pronostican un futuro de desinformación sin medias tintas (y sin tinta).

“Aunque dé miedo y pánico, la IA es la entrada a la transformación”, disparó Carmen Torrijos, responsable de IA en Prodigioso Volcán, en la mesa “Las oportunidades de la IA para el periodismo”. Ella se presenta en Twitter (ahora X) como “enredada en procesos de IA y transformación en comunicación”. Y defendió, ante el acecho del desempleo a consecuencia de la tecnología como excusa de la flexibilización laboral: “La IA no reemplaza personas, reemplaza tareas”. En ese sentido, remarcó: “Las personas son el auténtico valor de una compañía”.

La moderadora del panel fue María Moya, que fundó la compañía Prodigioso Volcán. Ella presentó un video con un falso incendio en la Alhambra generado por Inteligencia Artificial entre las flores, las escaleras y terrazas que convocan a miles de turistas cada año. Las ventanas al cielo y los jardines de naranjas, en Granada, impactarían en el mundo, pero no en la piedra de la herencia árabe en el sur de España porque se puede simular un incendio con imágenes falsas. “Los vídeos eran una fuente de verdad y ya no lo son, tras la popularización de la inteligencia artificial y la creación de contenido falso”, sentenció.

Por su parte, la directora digital de Prisa Radio, Ana Ormaechea, advirtió que se viene un boom de desinformación en los procesos electorales del 2024 (en donde vota la mitad del planeta) que ya se vio en Estados Unidos, en México y en Eslovenia. Por eso, su prioridad está en verificar la información ante la posibilidad de la clonación de voces. El objetivo es determinar si se trata de deep fake o de una grabación real. “Si están haciendo uso de IA para el mal nuestra misión es hacerlo para el bien”, diferenció Ormaechea.

La ejecutiva de Prisa mencionó que una de las aplicaciones de la inteligencia artificial que utilizan es VerificAudio, en colaboración con Google News Initiative. “Nos permite que los periodistas puedan detectar audios falsos realizados con voces sintéticas e incluso se pueden verificar las fuentes”, destacó. ¿Si hay un escándalo político se trata de la voz real de un político o de una manipulación para generar un escándalo? La IA permite no solo generar noticias falsas, sino cuestionar a las noticias verdaderas. ¿Hay herramientas para vislumbrar la verdad o ya la falsedad es igual que la autenticidad?

Ormaechea advirtió, ante los debates por los entrenamientos de IA con libros pirateados, diarios y contenido periodístico, que ese es uno de los puntos más álgidos de discusión, negociación y resolución frente a las nuevas tecnologías. “La propiedad intelectual es una de las áreas más afectadas. Hay generación y clonación de voz, entre otras cosas. Y todavía no hay respuestas”.

Por otra parte, en la mesa “Cómo sobrevivir a la era del internet inútil” la periodista Delia Rodríguez, autora del libro “Memecracia, Los virales que nos gobiernan (como las ideas contagiosas usan internet para manipular tu mente)”, editado por Planeta, en el 2013 (sí que la vio) fue más crítica: “Corremos el riesgo que la Inteligencia Artificial envenene internet”. No hay probadores de comida -al estilo del mito ruso- pero sí masas envenenadas sin saberlo o sin rebelarse a lo que comen, escuchan, miran y leen.

A lo mejor diez años después estamos ya envenenados y no hay antídoto si no se regula o se educa para informarse mejor. De todas maneras, ella retrató un espacio virtual sin aire: “Vivimos un presente de usuarios asfixiados”. Rodríguez subrayó: “La solución al exceso de contenidos en Internet tiene que pasar por poner límites y hacerlo más manejable, pero tenemos que decidirlo nosotros, no los algoritmos o las máquinas”.

Rodríguez impulsó la navegación deliberada. No entrar en las redes perdida a ver hacía donde te llevan, sino entrar sabiendo a dónde se quiere ir, con un boleto ya sacado y una búsqueda concreta. Las reglas de la navegación deliberada para saber qué buscar son: cuáles son tus fuentes, qué queres hacer en internet, dedicar un tiempo concreto y poner un fin al tiempo que se pasa en internet.

Por su parte, María Sánchez Díez, editora senior de narrativas digitales en la redacción de The New York Times, alertó que el boom de la IA y la crisis económica de los medios de combinación pueden ser una combinación riesgosa. “Se puede crear desigualdad, dependencia y falta de autonomía. Si sólo cinco empresas controlan el flujo de la atención es posible que vayamos a un escenario en el que se monetice dinero de otra forma solo para su provecho y desaparezcan los links”.

“Los medios del sur global, de América Latina o África, con menos recursos, en contextos más difíciles, no tienen condiciones propias de desarrollo. Por eso me preocupa que se acreciente la desigualdad entre medios”, alertó Sánchez Díez. Por otra parte, avizoró, un aterrizaje de emergencia frente a la incertidumbre: “Ante el problema de volumen de contenidos el público está volviendo a experiencias de consumo de información más concretas”.