Samantha se sonroja: los sesgos y prejuicios de la inteligencia artificial

Seguramente la voz de Scarlett Johansson te resulte conocida. Debe haber pocas voces de actrices que reconozcamos tanto como la de ella, especialmente después de la película Ella (Her era el nombre original), en la cual Scarlett no actuaba el papel de un ser humano sino de la voz de un asistente virtual, de quien el protagonista de la película se enamoraba perdidamente.

Hace unas semanas se lanzó la última versión de Chat GPT y tuvo la novedad de incluir voz y esa voz era muy parecida a la de Scarlett Johansson, tan parecida que ella denunció que se había utilizado la suya sin su consentimiento. Y si bien hubo muchísima discusión sobre la propiedad intelectual y el eventual uso no autorizado de su voz, pasó desapercibido el hecho de que la voz fuese de una mujer. Si te ponés a pensar, te darás cuenta de que muchas de las voces de los asistentes virtuales y los nombres son de mujer.

Hace unos años, el banco Bradesco de Brasil detectó que su asistente virtual que tenía un nombre de mujer BIA recibía muchísimos mensajes de acoso y de maltrato. ¡Recibió más de 100.000 mensajes en sus primeros días de estar en funcionamiento!

Esa situación lo llevó a recurrir a la UNESCO para solicitar su apoyo en una campaña de concientización, pero también para analizar en detalle cómo BIA contestaba cuando recibía estos mensajes de acoso y darse cuenta de que en su entrenamiento BIA había sido preparada para responder de manera servicial, sin reaccionar frente a un eventual maltrato verbal.

El caso de Bradesco nos lleva a un tema muy relevante en la IA: cuáles son los sesgos que tienen los algoritmos. La UNESCO logró un hito muy importante: la primera recomendación global sobre la ética de IA que firmaron 194 países. Pero ¿estamos yendo hacia un futuro mejor o estamos replicando los prejuicios y los sesgos que tenemos hoy en nuestra sociedad?

De eso vamos a hablar en este quinto episodio de Fantasmas en los Algoritmos con Eleonora Lamm, quien lidera el área de Ciencias Sociales y Humanas para América Latina y el Caribe de la UNESCO. Ella es doctora en Derecho y Bioética y está a cargo de la implementación de esa recomendación en América Latina.

Eso respondía Siri, el asistente virtual de Apple, al comentario “eres una perra” y así se llama el reporte de la UNESCO que analizó las distintas respuestas que daban los asistentes virtuales. Lo interesante de esto es que a partir de la decisión que tomó Bradesco de que BIA deje de responder servicialmente de manera automática, sino que reaccione, es que se hizo una campaña en el que muchas empresas que estaban teniendo este tipo de tecnología empezaron también a actualizar las respuestas que daban los asistentes virtuales.

Eso llevó a una acción masiva de concientización en materia de violencia de género en Brasil. Según Eleonora, “las discriminaciones, las injusticias, las diferencias que existen en el mundo analógico se están transformando y se están traspasando al mundo digital tal cual”.

Otro tema que solemos pasar por alto en los debates sobre la inteligencia artificial es su impacto ambiental. La posibilidad de que sistemas y modelos de predicción basados en IA contribuyan a atacar la crisis climática es ya una realidad. De hecho, según se publicó en la revista científica Nature estos días, un modelo de Google llamado NeuralGCM logró un avance que puede ser un gran hito en la predicción climática apoyada por la IA.

También es muy cierto que a medida que crece exponencialmente el poder computacional de los sistemas de IA, también crece su uso de energía y agua, y por ello la recomendación de la UNESCO incluyó un capítulo ambiental recomendaciones para visibilizar y abordar esta problemática.

Eleonora lo pone muy simple en números: “Chat GPT necesita para responder 20 preguntas tomar o beber una botella grande de agua. ¡Imaginemos si por cada 20 preguntas que se le hacen al chat GPT se utiliza una botella de agua, el impacto que tiene la inteligencia artificial en el ambiente!”

Conversamos también con Eleonora sobre qué hacen los gobiernos ante esta revolución tecnológica y cuánto y cómo deberían regularse. Según ella, la pregunta no es regular o no regular sino cómo hacerlo.

“Ha pasado con cualquier cosa que hemos puesto en el mercado en algún momento. No hemos cuestionado que se analice si podía generar un daño antes de que se pudiera vender. Sin embargo, con la inteligencia artificial hay tanto poder detrás, para decirlo de alguna manera, que pareciera que pudiera evitarse que exista ese control”, reflexionó.

Lamm sostiene que “la regulación tiene que ser lo suficientemente flexible como para entender que es una tecnología que avanza a pasos agigantados”. “Lo que hoy decimos que es una solución puede no serlo mañana. Creo que esta rapidez de cambio no nos ha pasado con ninguna otra tecnología antes”, advirtió la especialista.

La Unión Europea aprobó la legislación más ambiciosa de regulación que hubo hasta hoy. ¿Debería América Latina seguir el modelo europeo de regulación o encontrar su propio camino? Según Eleonora, “América Latina está buscando su propia regulación”.

“Creo que también la realidad nuestra es una realidad muy distinta a la realidad europea. América Latina tiene que en primer lugar dejar de ser comprador de inteligencia artificial o mano de obra de determinada inteligencia artificial para empezar a ser productor de inteligencia artificial”, resaltó.

En el próximo episodio seguiremos conversando sobre la regulación, un tema que es objeto de mucho debate, y tendremos la visión de Armando Guio Español, Director Ejecutivo de la Red de Centros de Internet y Sociedad e Investigador Asociado en el Berkman Klein Center de la Universidad de Harvard.

La recomendación de la UNESCO sobre inteligencia artificial; “Me sonrojaría si pudiera” (I´d blush if I could es el título original en inglés) es el reporte de UNESCO sobre las brechas de género; y la película que mencionamos al inicio del episodio es Ella (Her), de Spike Jonze.

No te pierdas los episodios anteriores de Fantasmas en los Algoritmos, donde conversamos sobre qué es la IA, su impacto en el trabajo y en la educación; y cómo utilizar sus herramientas para tomar mejores decisiones cotidianas. Podés acceder desde aquí.

*Julia Pomares es co-fundadora del capítulo latinoamericano de GIDE (The Global Initiative for Digital Empowerment) y Profesora Invitada de la Escuela de Gobierno de la Universidad Di Tella.