Peligro en Grok, la IA de Elon Musk: Crea imágenes sin censura con contenido violento y sexual

Con la llegada de Grok 2, una nueva versión del modelo de inteligencia artificial de X, la red social ahora cuenta con una opción para generar imágenes. Sin embargo, el contenido que se puede crear allí no tiene censura y de inmediato saltaron las alarmas por el tipo de imágenes que pueden crear los usuarios.

Otros modelos como DALL-E o Midjourney cuentan con ciertas reglas y parámetros para evitar situaciones desafortunadas, como desnudos, violencia, abuso o uso no autorizado de la imagen de una personalidad. Algo que en la IA de Elon Musk es posible evitar.

Si bien la creación de imágenes satíricas o humorísticas de figuras públicas puede parecer inofensiva, las implicaciones van mucho más allá. La facilidad con la que se pueden generar deepfakes, es decir, imágenes o videos falsos hiperrealistas, representa una amenaza para la seguridad y privacidad de todas las personas y autoridades.

Esto abre la puerta a que celebridades sean puestas en situaciones comprometedoras que no son reales, como generar desnudos de una cantante o hacer que un candidato presidencial se ve haciendo algo contrario a sus ideales.

Algo que es mucho más peligroso en contextos como las elecciones presidenciales en Estados Unidos, ya que es posible crear imágenes de Donald Trump o Kamala Harris con armas o en situaciones que pueden ser usadas para ilustrar una información falsa en medio de la tensión por este proceso electoral.

Otro punto importante es que no se conoce si al momento de generar una imagen con Grook se incluyan metadatos que indiquen su origen, que en este caso es producto de un proceso realizado con inteligencia artificial, lo que complica aún más la identificación de su veracidad.

Para evitar todas estas situaciones, otros modelos de IA para generar imágenes, cuentan con restricciones para que, al momento de recibir una solicitud indebida, se cancele la petición y no sea posible generar el contenido.

Actualmente X ya está siendo investigada por la Unión Europea por una presunta violación de la Ley de Servicios Digitales, asegurando que la red social “engaña a los usuarios” y no se ajusta a las prácticas estándar de la industria. Además, en Estados Unidos ya hay varias propuestas para poner freno a los deepfakes, después de varios casos en los que menores de edad han sido afectadas y acosadas.

Sin olvidar, que la aplicación autorizó de manera automática la recopilación de datos de los usuarios para nutrir a la inteligencia artificial. Algo que nunca se avisó y que se debe desactivar manualmente para evitar que Grok tome las publicaciones, interacciones y resultados para ampliar sus conocimientos y generar contenido. Para hacerlo, los usuarios deben ir a la sección Privacidad y seguridad y retirar el permiso que está activado de manera predeterminada.

La inteligencia artificial de X, desarrollada por xAI, lanzó recientemente una nueva versión, por lo que por ahora solo es posible usarla a través de una beta y siendo parte del servicio de suscripción de la red social.

Además de permitir la creación de imágenes, este chatbot también integrará otras funciones de X, como mejoras en la búsqueda, análisis de publicaciones y respuestas automáticas. La empresa planea introducir una vista previa de la comprensión multimodal, que podría revolucionar la interacción en la plataforma.

A finales de agosto está planeado el lanzamiento de una API para empresas, por lo que los desarrolladores tendrán la opción de llevar esta tecnología a sus sistemas y adaptarla según sus necesidades, incluida la generación de imágenes.