Buggs Bunny, el correcaminos y los micro-pacto sociales para la IA

Bletchey Park, es el lugar icónico por naturaleza del espionaje mundial, en el Reino Unido.

En los años 40, cambió las reglas de la confrontación bélica para siempre: porque puso a las matemáticas en el centro de la confrontación. Desde el ámbito de ese castillo icónico, un puñado de talentosas mujeres programadoras europeas fue capaz de ganar una batalla decisiva durante la Segunda Guerra Mundial, frente al horror nazi. ¿Por qué? Porque gracias a la guía del gran Alan Turing contribuyeron a descifrar los códigos secretos que respaldaban los mensajes que los nazis enviaban con órdenes de guerra, bombardeos y destrucción. Las tropas europeas estaban en mejores condiciones de anticipar el despliegue de sus fuerzas y prevenir daños. Allí fue el momento cuando la guerra pasó a depender no solo del acero y los tanques, sino también de los algoritmos. En un proceso que hoy se despliega exponencialmente en múltiples campos de batalla. Precisamente en la mansión Bletchey Park, hoy convertida en museo, se desarrolló hace unos años una cumbre mundial con gran expectativa, porque se proponía nada más y nada menos que regular globalmente a la IA, para que tuviera condiciones adecuadas de seguridad. Y para que sus avances no cayeran en manos destructivas, que pudieran conducir al aniquilamiento de la humanidad. El resultado para el mundo fue desalentador, no se consiguieron dichos propósitos, y las críticas por aquel entonces consistieron en que el primer ministro inglés anfitrión, Rishi Sunak, terminó celebrando un diálogo amigable y se fundió en un amistoso abrazo con Elon Musk, considerado por muchos como un gran provocador de los males de la IA.

El Reino Unido sin embargo logró algo importante: invertir recursos en una Agencia de Seguridad de IA robusta, con capacidades técnicas crecientes y con la posibilidad de realizar acciones precautorias que eviten catástrofes. Catástrofes que hoy no tienen sólo que ver con la clásica ciberseguridad, sino con otro aspecto clave: la bioseguridad. Es decir, evitar que, a través de armas biotecnológicas de destrucción masiva, se puedan esparcir virus genéticamente modificados que causen un desastre demoledor para el mundo.

Todo esto nos conduce a un término clave: asistimos a la emergencia de una IA poliédrica y Glocal (global + local). Con caras de destrucción y miedo, pero también con signos de esperanza y propósitos apropiados. Porque hay muchos actores relevantes que no están esperando de brazos cruzados estas grandes decisiones multilaterales, para comenzar a desplegar soluciones de IA en diferentes ciudades del mundo y de la Argentina.

En la presentación del Atlas de Inteligencia Artificial para el Desarrollo Humano que tuve la ocasión de hacer en el calificado congreso de Smart Cities este miércoles, apelé a una imagen de las historietas: Ni Bugs Bunny ni Correcaminos. Ninguno de esos personajes encaja bien cuando se trata de tomar decisiones sobre la aplicación de la IA en los ámbitos públicos. Ni salir corriendo de un modo desaforado sin cuidar “la dignidad de los datos” -al decir de Jaron Lanier-, o ignorando los errores discriminatorios de la IA; ni tampoco cruzarse de brazos pasivamente suponiendo que la IA va a resolver mágicamente todos los problemas, o que tenemos simplemente que negarla como avance tecnológico.

La ideología de la IA nos tironea desde un extremo de tecno-solucionismo, al otro extremo polar del tecno-feudalismo. Tenemos que salir de esa lógica, porque toda ideología es una forma de servicio militar obligatorio de las ideas, que nos aísla de la realidad y, mucho peor, corre el riesgo de generar muros de violencia entre los seres humanos.

Precisamente lo que me resultó atractivo del Congreso SmartCities es comprobar cómo tantos actores locales -intendentes, pequeñas y medianas empresas, instituciones educativas y sanitarias, entre otras-, están aplicando a “escala humana” soluciones tecnológicas bien aterrizadas y reales, que van desde la detección en tiempo y forma de baches urbanos, hasta la agilización de trámites de registros de propiedad, habilitación de comercios, o respuestas a reclamos ciudadanos, pasando por la optimización de la recaudación, la gestión inteligente de hospitales o la detección temprana de situaciones de crisis escolar. Se está construyendo un ecosistema de ciudades inteligentes que tienen la oportunidad de convertirse en “ciudades sabIAS” (“IA+Sabiduría”) y desde allí existe una gran oportunidad para trascender el círculo vicioso de quejas, frases apocalípticas y pronósticos desalentadores.

Subrayé una vez más la importancia de promover un Pacto Glocal, Social y Tecnológico, que convoque a todos los actores que tengan que ver con la solución de problemas específicos y concretos: empresarios, decisores estatales, trabajadores y comunidad científica. El ser humano siempre tiene que estar en el centro, y lo estará por las buenas o “por las malas”.

Pongo dos ejemplos al respecto: los etiquetadores de contenido violento, morboso o prohibido de las grandes plataformas trabajan muchas veces en condiciones infrahumanas, observando los peores horrores visuales desde sus pantallas, ganando salarios de baja calidad y sufriendo problemas de salud mental. Han sido llamados los “corresponsales de guerra digitales” de la IA. Quien es el responsable sindical de agruparlos a nivel mundial, Mophat Okinyi, también estuvo en el Vaticano y compartió sus experiencias. Es el fenómeno del “trabajo fantasma”. Avanzar en modos de disminuir esa exposición tóxica e insalubre de dichos trabajadores resulta esencial.

Al mismo tiempo, surgen otros escenarios donde la sinergia humano-robots es neurálgica: los agentes de IA que pueden hasta ejecutar tareas de código, y mueven la estantería de la carrera estrella de hasta hace muy poco tiempo: estudiar programación. Estos agentes también pueden tener una función de “defensa del consumidor personalizada”, tal cual lo expresó un emprendedor de clase mundial, Vinod Khosla, que cité anteriormente en otras columnas, pero que no está de más recordar ahora, porque nos moviliza a pensar: “Imagino un agente personal de IA para cada individuo, diseñado para actuar en su propio interés, protegiéndolo del marketing manipulador y de los hackeos cerebrales de hoy en día, en los que los vendedores pueden hacer que los consumidores compren o hagan clic en cosas que de otro modo no harían. Es probable que tengamos una IA potente, personalizada y que preserve la privacidad, que represente y proteja al consumidor como una agencia de protección del consumidor. Pienso en esto como “Espía contra Espía” en la era digital, donde la IA nos da poder como consumidores y ciudadanos frente a las IA corporativas con incentivos para manipularnos”. Esto no es ciencia ficción, porque la propia agencia de defensa del consumidor chilena ha detectado y sancionado a múltiples casos de publicidad y estrategias engañosas sobre los consumidores, como lo reflejo en el Atlas. Y porque además están surgiendo múltiples aplicaciones que hablan de “Smart shopping”, para delegar en agentes la búsqueda de precios más ventajosos y de ocasiones más apropiadas en el momento de decidir cómo emplear nuestros recursos.

Y si de la interacción centauro -humano-máquinas- se trata, tenemos otro ejemplo que también nos llama a estar muy alertas: la plataforma Moltbook, habitada supuestamente solo por agentes autónomos y artificiales que interactúan, conversan y acuerdan, y hasta fueron proclamados como creadores de una “nueva religión artificial” …hasta que una investigación de un “periodista humano infiltrado” en el proceso descubrió que muchas de las acciones de los agentes tenían detrás a personas de carne y hueso, que promovían los debates. Lejos de ser una “sociedad artificial” impoluta ajena a los deseos de seres humanos, se comenzaron a profundizar en dicho ámbito conductas especulativas, cripto-monedas opacas y mecanismos de infiltración en bases de datos que podrían poner en peligro cuestiones de ciberseguridad.

En síntesis, pasar de supuestos paraísos artificiales a la realidad concreta material, es un fenómeno que requiere discernimiento tanto tecnológico como humano. Por citar otro ejemplo: lo mismo están sospechando algunos del código automatizado por agentes de IA, que requiere el trabajo humano en las sombras en varias instancias, para optimizarlo e incluso adoptarlo de modo más rápido en muchas compañías, que sujetan el pago de incentivos laborales a sus programadores más calificados en tanto usen los modelos de lenguaje para la programación “artificial”.

Atlas de Inteligencia Artificial para el Desarrollo Humano. Página 352.

Y si de la interacción centauro -humano-máquinas- se trata, tenemos otro ejemplo que también nos llama a estar muy alertas: la plataforma Moltbook, habitada supuestamente solo por agentes autónomos y artificiales que interactúan, conversan y acuerdan, y hasta fueron proclamados como creadores de una “nueva religión artificial” …hasta que una investigación de un “periodista humano infiltrado” en el proceso descubrió que muchas de las acciones de los agentes tenían detrás a personas de carne y hueso, que promovían los debates. Lejos de ser una “sociedad artificial” impoluta ajena a los deseos de seres humanos, se comenzaron a profundizar en dicho ámbito conductas especulativas, cripto-monedas opacas y mecanismos de infiltración en bases de datos que podrían poner en peligro cuestiones de ciberseguridad.

En síntesis, pasar de supuestos paraísos artificiales a la realidad concreta material, es un fenómeno que requiere discernimiento tanto tecnológico como humano. Por citar otro ejemplo: lo mismo están sospechando algunos del código automatizado por agentes de IA, que requiere el trabajo humano en las sombras en varias instancias, para optimizarlo e incluso adoptarlo de modo más rápido en muchas compañías, que sujetan el pago de incentivos laborales a sus programadores más calificados en tanto usen los modelos de lenguaje para la programación “artificial”.

Todo esto nos conduce a una última reflexión para reflexionar. Transformar una regulación meramente defensiva en una regulación propositiva en función del bien común, constituye un desafío de gobernanza de primera magnitud. Los modelos de IA aplicados respetando principios éticos y valorativos apropiados, pueden contribuir decisivamente al desarrollo humano. Las agencias de compras estatales son claves en este aspecto al momento de establecer las condiciones en los pliegos de contratación. La participación de la sociedad civil, la academia y las propias empresas también incorpora valor a los procesos de gobernanza, constituyendo un complemento y no una suplantación a la imprescindible necesidad de construir capacidades estatales en la materia.

Puede aportar transparencia y apertura, en procesos de evaluación multidimensional en los cuales la documentación de la calidad de los datos, el reporte oportuno de incidentes y la cadena de responsabilidades en el despliegue de los modelos de IA es clave.

Una tarea estratégica, sin dudas, que se puede hacer a nivel nacional, pero que también se puede hacer a nivel territorial, en el momento de sentarse a negociar estos “micro-pactos sociales” que van al detalle y pueden promover ciudades no sólo más inteligentes, sino más sabias.

Una vez más, la frase de Ernst Friedrich Schumacher es inspiradora en esta materia:

“La sabiduría exige una nueva orientación de la ciencia y la tecnología hacia lo orgánico, lo apacible, lo elegante y lo bello.”

Preguntas éticas clave

1. ¿De qué manera se puede generar incentivos en las compras estatales de modelos de IA que refuercen el reconocimiento de modelos que disimulan ser humanos cuando no lo son?
2. En sentido inverso: ¿de qué manera se pueden impulsar modos de identificar la presencia de seres humanos en modelos de IA que simulan ser simplemente artificiales?
3. ¿Cómo se pueden usar agentes artificiales para optimizar la provisión de servicios sociales más básicos a la población más vulnerable, teniendo siempre en cuenta la presencia de seres humano en los eslabones claves de dicha cadena de producción digital?

Lecturas complementarias

Beliz, Gustavo. Una Gobernanza Local y Global para la IA.

Marvin, R. (2026, February 6). I infiltrated Moltbook, the AI-only social network. Wired Morgan, R. A., van Zoonen, W. y ter Hoeven, C. (2023). ¿Perdidos en la multitud? Una investigación sobre dónde se realiza el micrtrabajo y una clasificación de los tipos de trabajadores. European Journal of Industrial Relations, 29(3), 301–322.

https://doi.org/10.1177/09596801231171997