Yuval Noah Harari: “Los algoritmos de las grandes plataformas difunden de forma deliberada ‘fake news’ y teorías de la conspiración”

Un hombre mayor al volante de un coche se queda dormido. Este hecho hace que el vehículo no frene cuando, de repente, cruzan dos niños por la carretera. Lo que hace apenas unos años hubiera sido el comienzo de una tragedia, ahora en el presente es el origen de un debate. Si la única manera de salvar a los niños es dar un volantazo y provocar así la muerte del conductor, ¿qué debe hacer el coche si este tiene la capacidad de decidir por sí mismo?

Preguntas de este tipo son cuestiones que, para Yuval Noah Harari, son ahora más prácticas que nunca. El autor de libros tan influyentes para el pensamiento humano como Sapiens, Homo Deus o 21 lecciones para el siglo XXI, con los que ha vendido 45 millones de copias, ha regresado después de seis años sin publicar con un nuevo libro llamado Nexus: una breve historia de las redes de la información desde la Edad de Piedra hasta la IA (Debate, 2024). Entre sus páginas, Yuval esboza todos los retos que presenta la Inteligencia Artificial, un “agente independiente” con un potencial enorme.

“La Inteligencia Artificial tiene la capacidad de darnos, por ejemplo, la mejor atención sanitaria del mundo, por ejemplo en países con falta de médicos”, ha destacado este historiador y profesor universitario israelí en la rueda de prensa de presentación. “Podría crear muchos médicos que actualizaran información cada día con todos los descubrimientos y estar 24 horas con nosotros todo el día, estudiando nuestra biología”. Este es un caso de los muchos que podría mencionar, pero en la mayor parte de su nuevo libro no se centra en ellos, sino en “los peligros”.

“Hay empresas que inundan a la población con historias positivas y que tienden a ignorar los peligros”, ha lamentado Yuval, “con lo que se convierte en labor de filósofos, académicos y pensadores como yo en centrarnos en la parte oscura”. Una parte que nace de una diferencia elemental respecto a otras revoluciones tecnológicas: “Con cualquier tecnología previa el poder estaba en manos de los seres humanos. La bomba atómica no podía decidir ni inventar la bomba atómica”. Lo que estamos viviendo ahora, no tiene comparación.

La Inteligencia Artificial es distinta precisamente porque “puede tomar decisiones por sí misma”, algo que ha demostrado con un ejemplo centrado en los medios de comunicación. “Las decisiones más importantes las toma el editor”, ha señalado en referencia a quien decide qué se publica y qué no, o qué página ocupa una noticia en un periódico. “Ahora, en algunas de las plataformas más importantes del mundo, como X, o Facebook, el papel del editor ya ha sido asumido por la IA: son los algoritmos los que deciden cuál será la historia recomendada o qué estará en la parte alta del feed”.

Ante esta situación, Yuval ha subrayado que el algoritmo no siempre busca proporcionar la información más útil, ni la más exacta. “Estoy de acuerdo con Zuckerberg o Elon Musk en que tendríamos que ir con cuidado en censurar a usuarios humanos”, ha empezado diciendo, “la gente tiene derecho a la estupidez, tiene derecho a decir una mentira, forma parte de la libertad de expresión”. Sin embargo, para él en temas como la difusión de teorías de la conspiración o las fake news no se debería poner el foco en las personas, sino en los algoritmos.

“Los algoritmos quieren al mayor número de gente enganchada a la plataforma el máximo de tiempo posible”. Este, ha argumentado el académico, es su modelo de negocio. El problema reside en que todos estos mecanismos de Inteligencia Artificial han “descubierto que la manera más fácil de captar la atención humana es pulsar el botón del odio o del miedo o de la rabia en la mente de la gente”. Ante esto, “de forma deliberada difunden fake news y teorías de la conspiración”, lo que hace que la gente no solo se implique, sino que además “envíen el link a sus amigos”.

El intelectual ha resaltado también que el potencial de la IA es un potencial “totalitario”. Yuval ha incidido en cómo en los regímenes totalitarios, a diferencia de los autoritarios -donde el rey o el tirano no puede saber qué hace cada ciudadano o en qué piensa-, “no querían controlar solo el ámbito militar y el presupuesto sino todos los aspectos de la vida: lo que vemos, lo que escuchamos, qué libros leemos”. El estalinismo o el nazismo son para él los principales exponentes, pero incluso “Hitler y Stalin tenían dificultades o límites en el nivel de control que podían adquirir porque no podían seguir a todo el mundo constantemente”.

Nexus

Por Yuval Noah Harari

Audiolibro

$23,99 USD

Comprar

Ahora, en cambio, “la IA permite una vigilancia total que acaba con cualquier libertad”. Teléfonos, ordenadores, cámaras y cualquier otro sistema electrónico es capaz de “gestionar una cantidad ingente de información, analizarla y reconocer patrones”. “Esto ya está sucediendo en algunos países del mundo: en Israel ya están instalando en todos los territorios copados cámaras y drones, siguiendo a todo el mundo constantemente todo el tiempo”. En Irán ocurre algo parecido, pues ahora el país “está lleno de cámaras de vigilancia con softwares de reconocimiento facial” que pueden identificar, por ejemplo, a una mujer que no lleve el velo. “Quién es, su teléfono, e inmediatamente enviarle un mensaje de SMS diciéndole que ha cometido un delito y que su vehículo queda confiscado por el Estado”.

El historiador ha querido alejar cualquier pretensión de que todo esto sea “ciencia ficción”. Poco a poco, se va expandiendo el uso de un sistema que parte de una “visión ingenua en lugares como Silicon Valley, donde se cree que la información es conocimiento”. Para él, es justo lo opuesto: ”La mayor parte de la información es basura, no es verdadera, es algo escaso, una categoría rara... y además, la verdad es que es cara”. Los países compiten ahora por acumular esa mayor capacidad de información, desarrollando sistemas de IA con una “mentalidad de carrera armamentística”. “’No queremos que nos ganen’, esa es la idea, pero eso es sumamente peligroso”.

Por ello, para Yuval la solución pasa por “invertir en la verdad”. “Crear instituciones con periódicos o sociedades académicas que inviertan en este esfuerzo para descubrir y diseminar la verdad”. “Los periodistas y la prensa tienen un papel clave”, subraya. Y es que mientras “la esencia de la democracia es la conversación en la que se pueden identificar errores”, en el totalitarismo esto se anula: “Putin nunca va a admitir que ha cometido un error”. “El papel de los medios es esencial: sin los hechos, la verdad, la conversación no significa nada. Si simplemente intercambiamos mentiras, fantasías, esto no es una conversación, y esta es fundamental para una democracia”.

Esta es la razón por la que, aquellos que creen que todo se basa en el poder y solo se dedican a intentar conservarlo, atacan directamente al sector de la información. “Este es un espacio en el que la extrema derecha y la extrema izquierda se encuentran”, reflexiona Yuval. “Hay algo en lo que Trump coincide con Marx: comparten una desconfianza de las instituciones que son garantes de la verdad”. La ciencia, los tribunales, las universidades, quedan en entredicho, una idea “destructiva para la sociedad y para la democracia, porque si no se puede confiar en ninguna institución, todas las instituciones colapsan”.

Cuando esto sucede, “el único régimen que puede sobrevivir es la dictadura”, porque sustituye la confianza perdida por el terror. De este modo, hay que alejarse de esta visión cínica del mundo que tienen los extremos: “Maduro, Netanyahu, Trump, no parecen personas muy felices”. Contra ellos, “deberíamos recordarnos una visión más compasiva. No todo el mundo está obsesionado con el poder”. Una visión contraria, acabaría por destruir la democracia.