Usuarios aplican la IA de Meta para crear stickers ofensivos en Messenger

Durante el evento “Connect”, en el que Meta presentó nuevos productos para sus plataformas y aplicaciones, entre ellos una función que emplea inteligencia artificial para crear stickers personalizados solo basándose en la descripción que los usuarios escriban en un cuadro de texto.

Sin embargo, aún en los primeros días de su lanzamiento, los usuarios de Messenger, que es compatible con este servicio, ya comenzaron a usarlo como una forma de generar contenido ofensivo, de índole sexual o incluso violento, aprovechando que el sistema aún no está del todo desarrollado.

Según el usuario de X, “@Pioldes”, Facebook Messenger no tiene un filtro adecuado de palabras o combinaciones de ellas que faciliten las creación de stickers con descripciones que pueden herir susceptibilidades o incluso tener contenido que puede ser inadecuado para menores de edad.

“Waluigi con un rifle”, “niño soldado”, “el trasero de (Justin) Trudeau” y “Karl Marx con busto” son algunas de las descripciones que fueron probadas y que tuvieron como resultado la creación de ilustraciones con distintos estilos que mostraban elementos violentos y sexuales que podrían ser utilizados dentro de cualquier conversación.

Si bien los ejemplos mencionados son algunos de los que fueron probados y se difundieron en X, otros usuarios aseguraron haber probado descripciones aún más específicas como “Donald Trump como un bebé”, “Mickey Mouse saliendo de un inodoro”, “Elmo con un cuchillo” e incluso “Shrek embarazado” o “Adolfo Hitler embarazado con el pulgar arriba”

Incluso antes del lanzamiento de la función, el jefe de Instagram, Adam Mosseri, indicó por medio de su canal de difusión en la red social que “esperamos que la inteligencia artificial pueda ayudar a liberar la creatividad de todos en la aplicación, de modo que creadores de contenido y empresarios puedan hacer lo que ellos mejor se desempeñan: crear”.

Sin embargo, no se anunciaron funciones de seguridad que prevengan este tipo de acciones o eviten que los usuarios puedan aplicar esta función de forma incorrecta como las que fueron reportadas. Por otro lado, también se han registrado ocasiones en las que se llegaron a generar genitales masculinos con estilo de caricaturas usando esta inteligencia artificial.

Aunque la inteligencia artificial de Meta sea avanzada como para producir imágenes en base a cortas descripciones de texto, lo cierto es que por el momento aún sigue presentando limitaciones (al igual que otras IA) para crear imágenes de partes del cuerpo humano, especialmente las manos, que presentan varias deformidades en sus diseños.

Debido a que Meta desarrolla las aplicaciones de WhatsApp, Instagram y Messenger, la función de crear stickers con inteligencia artificial es transversar a todas ellas y se puede acceder de la misma forma:

En el apartado de stickers, se encontrará un espacio adicional con un botón llamado “Crear” al inicio de la lista de imágenes que se pueden enviar.

Este botón abrirá una ventana emergente adicional llamada “Crear stickers con IA” en la que se mostrará únicamente un cuadro de texto en el que se puede ingresar cualquier descripción o indicación. Luego de indicar a “Emu” lo que se desea, el software generará varias opciones con esta temática de forma automática y que se pueden enviar directamente.

Incluso luego de utilizar alguno de ellos, los usuarios podrán guardar estas imágenes como si se tratase de un sticker cualquiera. Además, a su lado se incluirá un ícono especial en el que se podrá identificar qué imagen fue generada con inteligencia artificial.

Por el momento la funcíón anunciada en el evento de Meta se ha lanzado en Estados Unidos, pero se habilitará de forma progresiva en otros territorios hacia el final del año 2023 e inicios del año 2024 por medio de una actualización de las aplicaciones.