Cuál es el rol de los humanos en la nueva era de inteligencia artificial

Durante los últimos dos años, la carrera por implementar inteligencia artificial en empresas de todo el mundo estuvo marcada por anuncios de automatización masiva, despidos y promesas de eficiencia inédita. Sin embargo, algunos de los casos más emblemáticos empezaron a revelar una paradoja inesperada: cuanto más avanzan los sistemas de IA, más visible se vuelve la necesidad de intervención humana en procesos críticos.

En ese escenario, Alejandro Zuzenberg, CEO y fundador de Botmaker, sostiene que el error no está en usar inteligencia artificial, sino en pensarla como un reemplazo absoluto de las personas en lugar de una extensión capaz de potenciar equipos, automatizar procesos y reorganizar el trabajo.

Los casos más particulares de IA en el trabajo

En 2022, la fintech sueca Klarna despidió a 700 empleados de atención al cliente. Lo anunció con orgullo: un chatbot impulsado por OpenAI haría el trabajo de todos ellos, más rápido y por una fracción del costo. El CEO Sebastian Siemiatkowski apareció en CNBC a mostrar los números. Los inversores aplaudieron. Pero, seis meses después, la satisfacción de los clientes había colapsado.

El bot atrapaba a las personas en bucles interminables, no sabía leer tonos emocionales, no podía resolver ese 20 % de los casos que se salen del guion y que son, precisamente, los que más importan. Klarna empezó a contratar gente de nuevo. Siemiatkowski terminó admitiendo en sus redes: “Quizás fuimos demasiado lejos en la dirección equivocada”.

IBM eliminó aproximadamente 8000 puestos en recursos humanos y automatizó la mayoría de esas funciones con un sistema llamado AskHR, que llegó a resolver el 94 % de las consultas rutinarias: gestión de vacaciones, nóminas, documentación. El ahorro estimado fue de 3500 millones de dólares.

El problema llegó cuando la propia tecnología que había optimizado los procesos generó nuevas necesidades en áreas estratégicas que el sistema no podía cubrir: juicio, negociación, situaciones que escapaban del protocolo. IBM tuvo que volver a contratar, en perfiles distintos y más calificados, pero más personas que antes.

Duolingo, por su parte, despidió en 2025 al 10 % de sus traductores y al grueso de sus contratistas de contenido para reemplazarlos con IA generativa. El CEO Luis von Ahn publicó un memo interno que se volvió viral: la empresa sería “AI-first” y los empleados serían evaluados según cuánto usaran inteligencia artificial. La reacción pública fue intensa, y la discusión que desató dejó algo en claro: la velocidad con que ciertas empresas están tomando decisiones irreversibles sobre sus equipos humanos está muy por delante de su comprensión de lo que pierden en el proceso.

El patrón que emerge de estos casos no es que la IA sea mala. Es que su despliegue como sustituto total –y no como herramienta de apoyo– tiene costos que no aparecen en la primera planilla de resultados.

Lo que el algoritmo todavía no puede hacer

La inteligencia artificial reconoce patrones en datos, genera respuestas que estadísticamente se parecen a las que daría un humano, pero sin conciencia de lo que está diciendo ni de a quién se lo dice. Esa diferencia no es filosófica: es clínica, legal y comercial.

Para Alejandro Zuzenberg, CEO y fundador de Botmaker, que lleva más de una década construyendo sistemas de automatización conversacional para empresas en toda la región, este tipo de errores tiene una raíz común. “Los agentes de IA no reemplazan la comunicación de la persona, sino que automatizan un proceso”, explica.

La distinción parece sutil, pero cambia todo: una empresa puede delegar en un agente la gestión completa de un pedido –desde la consulta inicial hasta el cobro, el seguimiento y la encuesta de satisfacción– sin que eso implique sacar a las personas del vínculo cuando este importa.

“Lo que la gente quiere es tener una buena experiencia, sentir que cuando habla la entienden y que la respuesta le sirve”, dice Zuzenberg. Y eso, en los casos que más importan, todavía requiere un humano.

El <i>human in the loop</i> como principio

En este contexto, un término que viene del vocabulario técnico de la ingeniería de sistemas ganó peso en el debate ético y político: el human in the loop. Refiere a los procesos donde la supervisión humana no es opcional, donde hay un punto en el flujo de decisiones en el que una persona tiene que estar presente, evaluar y responsabilizarse.

Zuzenberg lo aplica en su nueva arquitectura de agentes de IA. “El concepto de human in the loop refiere a la participación humana en el proceso”, explicó. Su nuevo lanzamiento, Botmaker 3.0, contempla la IA en ambos lados: desde el lado de una empresa y de un cliente, en cualquier rubro.

“El orquestador decide qué agente debe responder según la especialidad y el contexto”, explicó el fundador de Botmaker sobre el nuevo proceso que incorpora su empresa. Previamente, su sistema se basaba en los chatbots, mientras que ahora, con la ayuda de los agentes, la IA se hace cargo de varias tareas: “Los agentes ya no solo conversan: ejecutan tareas, actualizan sistemas y verifican que el proceso tenga éxito”.

Hay una dimensión del cambio que todavía no llegó del todo, pero que Zuzenberg describe como inevitable: la aparición del agente comprador. “Los agentes están en todos lados, y ahora empiezan a estar no solo en la empresa que vende, sino también en el comprador”, dice. “Vas a tener todas las combinaciones: un humano que le compra a un humano, como siempre fue. Un humano que le compra a una empresa atendida por un agente. Un agente que le compra a otro agente. Y un agente que le compra a un humano”.

Esto no es ciencia ficción: ya existe en versión rudimentaria cada vez que alguien le pide a un asistente de IA que compare vuelos, evalúe opciones y sugiera la mejor. El paso siguiente es que ese asistente no solo sugiera sino que también reserve.

El concepto tuvo un eco inesperado cuando el Papa León XIV lo incorporó de manera explícita a su primera encíclica, Magnifica Humanitas, presentada el 25 de mayo de este año y dedicada íntegramente a la inteligencia artificial. El documento traza un paralelo deliberado con la Rerum Novarum de 1891, la encíclica que, en plena Revolución Industrial, sentó las bases de la defensa de la dignidad del trabajador.

El argumento es el mismo, actualizado: cuando una transformación tecnológica de escala histórica avanza más rápido que los marcos éticos y legales que deberían regularla, la reflexión crítica no puede esperar.

La encíclica no propone frenar la tecnología. Propone que los humanos no desaparezcan del proceso cuando las decisiones afectan vidas. Esa no es una postura conservadora: es, cada vez más, la conclusión a la que están llegando por caminos distintos reguladores, investigadores de seguridad en IA.

Los trabajos no desaparecen, se transforman

El Foro Económico Mundial estimó, en su informe El Futuro del Trabajo 2025, que la automatización y la IA eliminarán 92 millones de empleos para 2030, pero crearán 170 millones nuevos. El saldo neto es positivo en papel. El problema es el mientras tanto y la velocidad del cambio, que esta vez se mide en meses y no en décadas.

Lo que está cambiando no es tanto qué trabajos existen, sino qué partes de esos trabajos hacen las personas. Los puestos más presionados hoy son los que implican tareas repetitivas y estructuradas: entrada de datos, redacción de informes tipo, atención al cliente de primer nivel, análisis básico de mercado. Eso ya está siendo automatizado, masivamente y con buenos resultados técnicos.

Lo que está pasando en la práctica es más matizado que la narrativa del reemplazo masivo. Zuzenberg describe un corrimiento de roles que ya está en curso: “Los humanos ayudamos al agente a que complete su tarea. Los humanos le decimos al agente: avísale que el producto está por llegar, y el agente escribe, busca el dato, verifica y envía. Los agentes de inteligencia artificial que están conversando son una extensión del equipo".

Pero el desplazamiento no es solo hacia abajo. También hay una reconfiguración hacia roles donde el valor está en lo que la IA no puede hacer: interpretar resultados en contexto, detectar errores y sesgos en sistemas automatizados, tomar decisiones con consecuencias éticas, construir relaciones de confianza. El 22 % de los roles actuales será transformado de manera significativa, según el mismo informe. Eso no significa desempleo automático; significa que millones de personas van a necesitar reaprender mientras el cambio ya está en marcha.