Lensa, la aplicación de IA estaría sexualizando a la mujer en sus avatares

En una investigación que realizó la revista MIT Technology, encontró que la popular aplicación de Inteligencia Artificial (AI), Lensa, está sexualizando de algún modo a las mujeres, al momento de que hacen el cambio de cómo se verían si fueran un personaje de anime o un ser místico.

Según contó en un artículo publicado por este medio, al realizar un ejercicio de creación de avatar con una mujer asiática, la aplicación arrojó una serie de fotos en ropa diminuta, en la que se podía ver cómo había un cierto estereotipo al momento en el que la Inteligencia Artificial hacía su trabajo para cambiar la foto de la mujer.

Mientras que para los hombres, se mostraban como astronautas, guerreros o con imágenes para álbumes musicales. Según el artículo, Lensa genera fotos a través de imágenes basadas en indicaciones de texto y luego extrae esas imágenes.

“De los 100 avatares que generé, 16 estaban en topless y otros 14 me mostraban con ropa extremadamente diminuta y poses abiertamente sexualizadas”, iniciaron en el artículo, al momento que explicó que fueron varias las categorías las que utilizó para probar esta nueva tecnología.

Lensa, es una aplicación que se puede descargar en iOS y Android, en la que crea avatares utilizando “Stable Diffusion”, un modelo de IA de código abierto que genera diferentes imágenes basadas en indicadores de texto que están almacenadas en la web.

“Stable Diffusion” está entrenado en LAION-5B, un conjunto masivo de datos de código abierto que ha extraído imágenes de Internet, es por eso que al realizar la transformación, puede sexualizar de alguna manera a la mujer, ya que la gran mayoría de las fotos en la web son de mujeres desnudas.

Le puede interesar:

Y es que según cuenta a este medio Aylin Caliskan, profesora asistente de la Universidad de Washington que estudia sesgos y representación en los sistemas de IA, “las mujeres se asocian con contenido sexual, mientras que los hombres se asocian con contenido profesional relacionado con la carrera en cualquier área importante como la medicina, la ciencia, los negocios, etc.”.

Asimismo, un portavoz de Prisma Labs, la compañía detrás de Lensa, dice que todos los géneros enfrentan una “sexualización esporádica”, sin embargo advierten que por estas decisiones, podrían causar algunos daños evidentes, como el fácil acceso a generadores de deepfakes que crean imágenes de desnudos de mujeres o niños sin consentimiento.

Lensa nació en el 2018 y ha sido utilizada por miles de personas en el mundo, para vivir en esa fantasía de cómo sería estar en un anime o en un comic. La aplicación crea diferentes imágenes a través de selfies, y allí las personas lo utilizan para compartirlas en sus redes sociales y mostrar ese cambio que realiza la AI.

Sin embargo, Aylin Caliskan indicó que ve problemas aún mayores a largo plazo en el futuro. “A medida que las imágenes generadas por IA con sus sesgos incrustados inunden Internet, eventualmente se convertirán en datos de entrenamiento para futuros modelos de IA”, señaló.

Lo primero que tiene que hacer es descargar la aplicación de Lensa, y abrirla en su móvil. Una vez está dentro, tiene que pulsar en el botón de Magic Avatars que le aparecerá en la parte de abajo de la aplicación.

Allí, le pedirá que escoja más de 10 selfies que quiera convertir, no podrán ser fotografías que esté con otra persona, o de perfil. Ya al momento de seleccionarlas, podrá escoger las categorías en las que quiera cambiar esas fotografías, actualmente cuenta con más de 20 estilos.

Allí puede crear 50, 100 o 200 avatares, y en cada uno de los casos tendrá que realizar un pago único con ellos. En el caso de que tenga suscripción en la aplicación, el coste de los avatares será menor.