Geoffrey Hinton advierte sobre el futuro: “No entenderemos a la IA, al igual que las ratas no entienden los números”

Geoffrey Hinton, premio Nobel de Física y uno de los pioneros de la inteligencia artificial (IA), advirtió que los humanos podrían enfrentarse a sistemas capaces de comprender asuntos fuera de su alcance cognitivo y cuya afirmación sobre qué es verdadero no siempre podrían evaluar.

“No entenderemos a la IA, al igual que las ratas no entienden los números”, planteó durante la apertura del programa principal de conferencias de Starmus, en Arona, Tenerife. La discusión reunió al psicólogo cognitivo y profesor de Harvard Steven Pinker y a la exresponsable de Naciones Unidas para el clima Christiana Figueres.

El astrofísico y fundador del encuentro, Garik Israelian, moderó una conversación sobre cómo distinguir la verdad en un momento donde máquinas y personas pueden equivocarse, confabular o elegir las pruebas que coinciden con sus propias convicciones.

Por qué Geoffrey Hinton cree que se subestimó a la IA

Hinton sostuvo que las capacidades de los grandes modelos de lenguaje, sistemas entrenados para comprender y generar texto, fueron subestimadas incluso cuando ya podían observarse.

Recordó que algunos especialistas en lingüística rechazaban que esas herramientas comprendieran y produjeran lenguaje de forma sofisticada, y citó a Noam Chomsky como ejemplo de un investigador que, a su juicio, no revisó suficientemente sus posiciones ante las pruebas disponibles.

El científico comparó los posibles límites humanos con la incapacidad de otros animales para procesar conceptos abstractos. “De igual modo que las ratas nunca comprenderán los números primos”, dijo, las personas podrían convivir con sistemas que entiendan cuestiones que ellas nunca llegarán a comprender.

El escenario planteado por Hinton abre una cuestión sobre la confianza en respuestas imposibles de verificar de manera directa. Si una inteligencia artificial muy superior sostiene que algo es cierto, afirmó, “es mejor que te lo creas”.

Qué dice Geoffrey Hinton sobre las alucinaciones de la IA

Las llamadas alucinaciones de la IA, respuestas falsas o inventadas que los sistemas presentan como correctas, no prueban por sí mismas que las máquinas carezcan de comprensión, según Hinton.

Los humanos reconstruyen recuerdos y confabulan sobre hechos que creen conocer, mientras que los modelos de lenguaje aprenden de la actividad humana y pueden reproducir esos patrones.

Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje y sus consecuencias para el estudio de la cognición humana.

Sin embargo, remarcó que la utilidad de esos sistemas dependerá de que ofrezcan respuestas correctas y puedan someterse a mecanismos de comprobación, en lugar de limitarse a optimizar la interacción con los usuarios.

Cuál es la visión de otros expertos sobre el papel de la IA en la búsqueda de verdad

Figueres introdujo una mirada distinta al referirse a “mi verdad”, entendida como el conjunto de principios y hechos aceptados que cada persona usa para orientar su vida. Reconoció, no obstante, la dificultad de hacer compatibles esas percepciones individuales.

La exresponsable de Naciones Unidas propuso “enamorarse de la incertidumbre” y usarla para examinar aquello que se presenta como verdadero, en vez de buscar certezas absolutas. Hinton discrepó y defendió que existe una verdad objetiva, más allá de las diferencias culturales o conceptuales.

“Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión”, afirmó Hinton. El investigador distinguió entre la capacidad del poder para controlar lo que una sociedad percibe como verdadero y su incapacidad para controlar la verdad misma.

El intercambio derivó hacia las razones por las que las pruebas no siempre modifican las creencias. Pinker consideró que las personas suelen actuar racionalmente en problemas inmediatos de su vida cotidiana, pero encuentran mayores dificultades ante preguntas complejas o alejadas de su experiencia directa.