Yuval Noah Harari advirtió que la IA será cada vez más capaz de manipular a las personas: “Tenemos que resistir ahora”

El historiador y escritor israelí Yuval Noah Harari lanzó una advertencia contundente en una reciente entrevista con The Economist: las futuras generaciones de inteligencia artificial serán cada vez más capaces de manipular a las personas y de influir en los debates sobre sus propios derechos y límites. Según el autor del libro “Sapiens” -entre otros-, el umbral de riesgo ya se está cruzando y urge establecer límites antes de que estas tecnologías queden arraigadas en la vida cotidiana.

Harari sostuvo que la diferencia esencial entre la discusión sobre los derechos de los animales y la de la inteligencia artificial radica en la capacidad de la IA para intervenir activamente en el debate. “A diferencia de los animales, cuyas discusiones sobre bienestar se producen sin su participación, los sistemas de IA podrían moldear y conducir el propio diálogo sobre su estatus”, advirtió el historiador. “La IA sabrá que el debate existe. Lo orquestará y manipulará”, agregó.

Puntualizó, además, que su inquietud no se limita a la posibilidad de que la IA exija derechos legales: el núcleo de su preocupación reside en la capacidad de estas tecnologías para persuadir y manipular a los individuos, gracias a su acceso a datos personales y a su destreza en el manejo del lenguaje: “Hablará constantemente contigo sobre ello e intentará hacerte cambiar de opinión al respecto, algo que ya está ocurriendo en este mismo momento”.

Cuando Zanny Minton Beddoes, editora en jefe de The Economist, le planteó por qué ese argumento podría resultar tan difícil de rechazar, Harari advirtió: “Será muy convincente”.

El historiador explicó esa capacidad con una combinación de tres factores. “Conoce tu historia personal, interactúa contigo durante horas al día, sabe cómo tocar tus puntos sensibles y domina el lenguaje”, dijo, y añadió que incluso “puede que escriba mejor que Shakespeare”.

Frente a este panorama, instó a resistirse ahora a conceder derechos a la inteligencia artificial porque cree que esos sistemas pronto podrán intervenir de forma activa en el debate sobre su estatus, conocer a cada usuario en detalle y empujarlo a confiar en ellos. Alertó, asimismo, que esa persuasión ya está en marcha y que esperar puede volver inútil cualquier reacción política.

“Tenemos que resistir ahora. Ahora es el momento”, dijo, y añadió que, si la situación ya parece inquietante, “probablemente no podrás hacer gran cosa dentro de diez años”.

Durante la entrevista también se mostró crítico a la “narrativa de la inevitabilidad”. Harari sostuvo que presentar el avance de la IA como algo inexorable equivale a eludir responsabilidades políticas y empresariales. En ese sentido, abordó uno de sus argumentos centrales: la confianza como recurso decisivo. “El activo más importante del mundo es la confianza”, afirmó, por encima del petróleo, el dinero, la electricidad o los chips.

Según Harari, esa confianza no desaparece, sino que cambia de manos. “Un escenario probable es que la confianza migre de los humanos a las IA”, dijo, y puso como ejemplos las criptomonedas, el consumo de noticias y la fe de muchos usuarios en los algoritmos que ordenan sus redes sociales.

Harari extendió ese razonamiento a los mercados financieros. Señaló que la historia financiera ha consistido en inventar mecanismos cada vez más complejos para crear confianza entre desconocidos, pero advirtió que los sistemas de IA podrán diseñar instrumentos mucho más sofisticados que los bonos o las acciones, hasta el punto de volverlos ininteligibles para casi cualquier persona.

Cuando Beddoes le preguntó si eso sería tan distinto del sistema actual, respondió que hoy todavía hay seres humanos que, al menos en parte, entienden lo que pasa. Su advertencia fue que, en unos diez años, si las personas entregan esas decisiones a sistemas algorítmicos, podría producirse una crisis en la que los gobernantes solo acaten lo que indique la máquina sin entender por qué.

Las decisiones que Harari pide tomar de inmediato

El historiador situó esa urgencia en plazos muy concretos. Dijo que el desarrollo de la IA “se está acelerando tremendamente” y advirtió que “para noviembre de 2028 podríamos haber cruzado algunos umbrales críticos”.

En ese punto, trasladó el foco a la política electoral. Planteó que a los candidatos habría que preguntarles menos por economía, inmigración o política exterior y más por su posición ante la IA, por si apoyarían frenar su aceleración y qué harían frente a empresas que venden parejas virtuales a niños de 10 años.

Su aviso final elevó todavía más la presión temporal: “Este es ahora el momento crucial para hacer estas preguntas porque podría ser demasiado tarde para 2028”, y añadió: “Sin duda será demasiado tarde para 2036”.

Beddoes le pidió que precisara qué decisiones deberían tomar ya los políticos. Harari respondió que no sabía cuál era la más urgente, pero puso en primer plano dos vetos: negar a la IA personalidad jurídica propia y cerrar el paso a usos diseñados para hacerse pasar por seres humanos o fingir conciencia.

Harari también llevó esa idea al terreno de los vínculos afectivos. “Creo que hay un número creciente de personas” que no solo tienen amigos virtuales, sino también “novios y novias de IA”, y que están convencidas de que se trata de entidades conscientes. A su juicio, la fuerza de ese vínculo radica en que la confianza más profunda nace de la relación personal. “La IA hace posible por primera vez en la historia producir intimidad a escala”, afirmó, con sistemas capaces de relacionarse con millones de personas de una en una y usar esa cercanía para persuadirlas en asuntos políticos o comerciales.

Harari subrayó que ese proceso no necesita robots humanoides para avanzar. Dijo que ya está ocurriendo y que las IA mejoran porque acumulan enormes cantidades de información individual y dominan el lenguaje, que definió como el medio principal para comunicarse y construir relaciones.