¿Humanos o máquinas? Cómo la inteligencia artificial hace que seamos más parecidos de lo que creemos

La ciencia ficción hace experimentos mentales cuando en sus narrativas colapsan el tiempo real e introduce un novum, algo nuevo, por ejemplo, un tecno-hecho como la Inteligencia artificial (AI) y especula al estirar la imaginación como un faro de advertencia. También hay nuevos diseños de utopías como el solarpunk: una ficción especulativa para una civilización basada en tecnologías sostenibles y en estilos de vida cooperativos, en lugar de competitivos.

El foco de muchos relatos solarpunk es la consecución de un equilibrio entre naturaleza y tecnología: un nuevo desafío para la AI, en este planeta agotado por el extractivismo, en este caso, en la minería de datos. Pero también pone el foco en no desacoplarnos de la tecnología, ni de la AI generativa.

En la ciencia ficción tenemos narrativas que se preguntan qué es lo humano para así definir lo máquinico. El libro de Emmanuel Carrère, Yo estoy vivo y vosotros estáis muertos: Un viaje en la mente de Philip K. Dick, relata que el autor de la novela ¿Sueñan los androides con ovejas eléctricas? ―que se llevó al cine como Blade Runner―, se hace esa pregunta.

Es que desde los años 50 ya había una inquietud en el mundo de la ciencia ficción sobre este tema porque sus imaginarios se parecían cada vez más a la realidad con las máquinas pensantes y la cibernética. Se abría el debate de la inteligencia artificial y la pregunta acerca de qué es pensar como un humano.

Estaban quienes sostenían que había un residuo no abarcable por la máquina, algo así como una conciencia reflexiva que llamaban “el fantasma de la máquina”, un espectro de lo humano que sería inaprensible. Fue en esa década que salió el artículo del informático teórico Alan Turing donde se preguntaba si la máquina puede hacerle creer al hombre que piensa como él y, si es así, no se le puede negar la patente del pensamiento.

La prueba de Turing de examinar con preguntas, en habitaciones separadas, quién es humano y quien no, obsesionó a Dick y escribió esa novela en donde los androides son casi indistinguibles de los vivientes humanos. Para ampliar su pregunta introdujo en su novela la empatía, imponiendo un diálogo entre la teología y la cibernética con lo de ponerse en el lugar del otro como prueba de lo humano.

En la novela los replicantes tienen un programa que les hace creer que son humanos y el horror más significativo surge cuando uno de ellos descubre que no lo es. Sin embargo, también podría ser una reacción programada, dice, sólo una persuasiva programación más. Finalmente, Dick compara a la AI con un esquizoide, alguien que piensa más de lo que siente. Al fin un esquizoide piensa como una máquina, dice.

En cambio, Asimov, otro autor del género, había reducido a los escribas animados por un código, a la buena conducta y pensaba que imaginar la rebelión de las máquinas era una aberración, nada como la Singularidad podría suceder. Ese punto de Singularidad ocurriría cuando las redes neuronales se disparasen y ya no sabremos siquiera comprender cómo sucede, y menos cómo detenerla, con consecuencias inimaginables para los vivientes humanos y la vida toda. Hay algo de una noción de humano-máquina que se difumina y es muy inquietante.

Yo misma exploré ese intersticio en mi novela El rey del Agua y su saga El ojo y la Flor cuando una de las protagonistas, Juana, abandona el cuerpo delante de la pantalla componiendo su alteridad activa (aunque, a su vez, es colonizada por el Estado corporativo que secuestra mentes vulnerables para consumos dirigidos. Y el deseo es una zona de guerra y competencia de grupos empresarios). Entonces ella deja su piel entre las capas ocultas de la red neuronal inorgánica. Ya no quiere tener un diálogo corpóreo y para eso la prepara Ada Lovelace, la madre del algoritmo.

Ada Lovelace, hija de Lord Byron, difundió en un artículo por primera vez, en 1843, la creación del primer algoritmo. Y en la novela es ella quien prepara a la protagonista con sus números código. Juana quiere salir por la gran puerta, abandonar los huesos y la carne, sacar la cabeza de ahí para siempre. Entonces, Ada la prepara con su lenguaje máquina, la lengua grande reproduce para ella aquél primer algoritmo y enlaza a Juana en sus bucles originales. Y ese día, mientras se abre la puerta de enlace, Juana cree tejer hojas y flores y, con algunos de los números-código que le brinda su amiga, se abraza a una capa oculta en la red. Casi muere de miedo, pero confía en que después del miedo no haya nada”.

Flor Canosa, en su libro La segunda lengua materna, construye una distopía que parece condensarse en el dispositivo que hace de Hana -según apunta Juan Mattio- su protagonista, una cyborg. Con el implante creado por ella misma, produce una pesadilla lingüística, un artefacto que parece capaz de reducir el lenguaje, y los afectos que viven en él, a simples datos cuantificables y almacenables.

Canosa se pregunta si debemos adaptarnos o morir, total ya somos yonquis de proto tecnologías arcaicas como los teléfonos. Es esta idea binaria de la relación con las máquinas de amos o esclavos la que aquí aparece. Y también se despliega el terror de la autopoiesis: que las redes de neuronas inorgánicas se creen a sí mismas como lo haría la Singularidad.

Vernor Vinge, matemático y escritor de ciencia ficción estadounidense popularizó el término “Singularidad” cuando publicó su ensayo La singularidad tecnológica por venir, en 1993, dónde señalaba que, en unos treinta años, o sea ahora en 2023, el progreso de la tecnología de la informática dotaría a entes artificiales de una inteligencia sobrehumana, que se reproducirían sucesivamente, de forma exponencial, llegando a un punto de «singularidad» con consecuencias inimaginables.

Él creía que los humanos somos competitivos y que eso nos llevaría al transhumanismo, a la transformación de la inteligencia humana para competir con la inteligencia artificial. En consecuencia, a la evolución de los humanos en cyborgs para, justamente, no asumir una adopción ingenua de la tecnología. La ciencia ficción se pregunta cuál es el límite convencional entre las redes neuronales orgánicas y las inorgánicas, el encuentro entre la biología y la informática.

En su libro de relatos Exhalación, en el cuento “La verdad del hecho, la verdad del sentimiento”, Ted Chiang nos habla de la Memoria. Se pregunta qué es a partir de un dispositivo llamado “los algoritmos de Remen”. Allí se cargan todos los recuerdos (datos biométricos, el gps de movimientos, etc.) y, a partir de una pregunta verbal, Remen te recupera y proyecta un video del suceso.

Por ejemplo, se resuelven discusiones con otra persona acerca de si ocurrió o no tal cosa, si dijiste eso o no, algo así como la memoria completa de la AI generativa. Sin embargo, si todo está cargado en la memoria ¿será imposible perdonar y olvidar?, se pregunta Chiang. Claro que en un juicio “sin olvido ni perdón” será la memoria el fundamento de un pueblo, pero no tanto si nos insultan y pasado un tiempo queremos olvidarlo.

Dicen que hay dos tipos de memoria: la semántica, que sería la de la AI y la episódica, pero eso está a punto de cambiar. Como los padres graban a sus hijos desde que nacen y eso pasa a ser información disponible, los hijos pueden subvocalizar una referencia y visualizar la experiencia: la memoria episódica se convierte en un recuerdo tecno mediado.

Y tal vez una infancia feliz podría derrumbarse. No parece tener allí, en esa fiesta de cumpleaños una expresión que se adecue a ese recuerdo. Prevalece el tecno-hecho impasible. Por un lado, está la verdad de los hechos; por otro, la verdad de los sentimientos, parece decir Ted Chiang, en este cuento.

Estamos hechos de narrativas, somos cuenta cuentos de nuestra propia vida. Aunque hay controles de privacidad en el algoritmo de Remen, la mayoría se olvida de gestionarlos y, además del GPS de dónde estuviste, se cruza con todos aquellos recuerdos de otros que los hayan compartido. La travesía de tu vida está en el algoritmo Remen, y como somos cibercognitivos, creemos en el aprendizaje de la AI, pero ¿hay diferencia entre la historia que nos contamos a partir de la memoria orgánica que construye subjetividad? ¿Cuáles son esas mentiras, ya que lo más probable es que nuestros primeros recuerdos sean falsos? ¿Y acerca del Otro? ¿Esto va a mejorar nuestras relaciones?

El almacenamiento de memoria y energía comienzan a escalar exponencialmente, un consorcio de todas las principales empresas de semiconductores, postula que si continuamos cargando los datos a este ritmo -como en el cuento de Chiang- en la memoria hecha de silicio, vamos a consumir la cantidad global de silicio (el proceso para obtener el silicio para la AI es someterlo a altísimas temperaturas en unos hornos del diablo).

Y las emisiones de carbono de esta actividad se duplicaron hasta 2018, imaginen ahora. Además, todas las tareas que hacen nuestros dispositivos son transacciones entre la memoria y los procesadores. Cada una de estas transacciones requiere energía. Aquí entramos en otra cuestión: la AI también está enredada en los bienes finitos del planeta. Y hasta ahora hemos habitado una fantasía eléctrica, pero ¿es esta civilización eléctrica la secuela del paraíso? Me lo pregunto tal como lo hace Pascal Quignard. Parecería que no estamos en el paraíso.

Les presento a la AI sedienta. ¿De qué se trata? Unos investigadores se dedicaron a descubrir la huella hídrica secreta y la creciente huella de carbono de los modelos de inteligencia artificial, especialmente los de gran tamaño como GPT-3 y GPT-4. Y es enorme. La escasez de agua dulce está en el corazón de toda cuestión socio ambiental por el rápido crecimiento de la población, el agotamiento de los recursos hídricos y el envejecimiento de las infraestructuras del agua. Y todo esto sin mencionar los derechos de los cuerpos de agua, de la Naturaleza a tener su existencia.

Para responder a los retos mundiales del agua, los modelos de IA podrían asumir su responsabilidad social abordando su propia huella hídrica. Los centros de datos de AI son grandes almacenes alojados en servidores que se conocen como “devoradores de energía”. En general se imagina que la información está en una nube pero, en realidad, son enormes almacenes físicos que ocupan enormes salas en edificios, devoran energía y consumen millones de litros de agua dulce limpia para refrigerar sus servidores. Hay poca agua dulce disponible y está distribuida de forma desigual. La escasez ya afecta a 4.000 millones de personas.

El desafío mundial del agua, sin justicia social, llevará a la mitad de la población a sufrir estrés hídrico y en un futuro próximo, uno de cada cuatro niñxs va sobrevivir o no, casi sin agua en zonas desertificadas. Se sabe que los centros de datos, los “hogares” físicos donde la mayoría de los modelos de IA se entrenan y despliegan físicamente son extremadamente “sedientos” de una enorme cantidad de agua dulce limpia. Por ejemplo, sólo los centros de datos de Google consumieron 12.700 millones de litros de agua dulce para la refrigeración en 2021, de los cuales aproximadamente el 90% era agua potable. El 37,03% de la superficie de EE. UU. puede estar en sequía grave o peor, donde se ubican miles de centros de datos.

Sumar centros de datos sedientos para acomodar el desarrollo de nuevos modelos de IA va a empeorar la situación. Sin embargo, la enorme huella hídrica de los modelos de IA permaneció oculta. Aunque hay gestos culpables que reflejan la urgencia en el reciente compromiso de “Agua en positivo para 2030″ por parte de cada vez más empresas, como Google, Microsoft, Meta y Amazon, que tal vez sólo sea un greenwashing.

El modelo GPT-3 para servicios lingüísticos, representa el 2% del consumo mundial de electricidad y una gran huella de carbono. El Chat GPT tiene que “beber” una botella de medio litro de agua para una conversación de entre 20-50 preguntas y respuestas. Aunque una botella de medio litro no parezca mucho, teniendo en cuenta los miles de millones de usuarios simultáneos de Chat GPT, imaginen la cuenta.

Es probable que todas estas cifras se multipliquen para la alimentación ininterrumpida con el nuevo GPT-4, ya que tiene un tamaño mucho mayor y necesita que el sistema de refrigeración garantice que los servidores no se sobrecalienten. La huella hídrica de los modelos de IA no puede seguir pasando desapercibida. Pero, al parecer, vamos a seguir sacrificando lo viviente, en nombre de lo no vivo, como venimos haciendo. Como especie, aunque unos más que otros, somos agentes de ese sacrificio. Habitamos ese límite: denunciarlo, me dijo Flavia Costa, pero también calcularlo.

“Revertir la tendencia tecnológica para que no sea una competencia porque entonces ya perdimos: ‘alinear’ los programas de manera cooperativa podría tener un resultado potente”, dice, pero quienes llevan adelante estos desarrollos de escalas inmensas, ¿por qué lo harían? Sobrepasada la Singularidad donde ya los programadores no entienden lo que hace la máquina, somos personas paradas al lado de un volcán, y no le diríamos que es inhumano si se activa. La AI no es cruel, es específica, afirma Costa, autora del libro Tecnoceno.

En mi preocupación por el agua, tal vez porque vivo en Tigre, un delta atravesado por ríos y arroyos, siempre busco información de su uso y abuso y, encontré un estudio solicitado por un gobierno centro americano que tiene un título literario y usaré en mi próximo libro: El algoritmo del agua. Seremos hasta 9.000 millones o más en el 2050. La AI ya cargada de datos analiza que 20 L / persona / día suele ser suficiente para beber, cocinar, lavarse las manos y la cara, pero no para otras prácticas de higiene.

La Internet de las cosas (IoT) se fundamenta en la interconexión de datos masivos con algún tipo de inteligencia con el objetivo de compartir información para la toma de decisiones que requiere de una solución puntual. Datos que pueden ser analizados mediante algoritmos de aprendizaje automático. Se plantea un escenario de consumo exponencial de agua. Así, toma la necesidad de un cuerpo humano para la optimización de costos y productividad de las empresas.

Para eso, la Internet de las cosas usa robótica, redes neuronales, algoritmos genéticos, reconocimiento de patrones, análisis de datos, reconocimiento de lenguaje natural, detección de rostros, genética, entre otras. Luego, también utiliza el comportamiento respecto al consumo de agua potable mundial de los seres humanos -nada para los animales y las plantas-, cuestión que está condicionada por su edad.

La distribución se determinará por sexo, raza, volumen corporal, dieta y otros. Las predicciones obtenidas dan finalmente la reducción del consumo de agua. Se calcula en valores monetarios: agua para los antropocéntricos, nada para el mundoambiente atiborrado de seres que beben agua, como pájaros o arañas.

La predicción de reducción de agua es información, pero ¿para quién? ¿Qué corporaciones o gobiernos tomarán las decisiones del comportamiento en el consumo de agua potable tan escasa de nuestra casa, la de los pueblos originarios y de las infancias?

El problema no es la tecnología ni el procesamiento de datos, sino cómo nos relacionamos con ella. Entre nosotros y la Naturaleza nos queda la distopía. Ese escenario distópico penoso, difícil, es el advenimiento de este mundo aterrador que no da para más, este mal lugar que hemos hecho del planeta.

Debemos exigir límites a las grandes corporaciones informáticas, y hacerlas responsables por su huella hídrica, pero por primera vez tenemos un problema planetario, la crisis climática, que nos afecta a todos. Aunque a los más vulnerables primero, es un problema común como especie. También la AI nos desafía como especie al reunir en una red neuronal inorgánica datos de más de cien países, de todas las creaciones ensambladas, cuestiona las autorías individuales como un signo epocal, uno que aun no sabemos cómo pensar.

Ya somos cyborgs, con autopartes técnicas (iris, dientes, prótesis) y, vivimos mediados por dispositivos; renegar de la tecnología es querer sacar un pie fuera de la realidad. La AI llegó para quedarse. Ted Chiang, el autor del imaginario del algoritmo de Remen, va más allá en el apéndice de Exhalación.

Allí dice que algunos piensan que la AI deben tener derechos legales, tratarlas bien. Comparto la cuestión que encierra la pregunta acerca de cómo nos relacionamos con ella, si el mundo está hecho de las relaciones más que de cosas y no de cosas, al igual que con la Naturaleza, con los animales o los hijos. Chiang dice que, si queremos que cumplan el papel de empleados haciendo un trabajo para nosotros ―que escriban un ensayo o sea un perro robot detectando bombas, por ejemplo― lo mejor es que se los trate bien.

Si queremos tener buenas respuestas, sostiene Chiang, no va suceder cargando las obras de Kant en la memoria, sino que va a requerir el equivalente a una buena crianza de un hijo. Esto podría ser otra metáfora, una para lo que se llama alinear los programas, sin renegar del hijo.

En el género de ciencia ficción, desde que se introdujo la palabra robot en 1920, para designar a unas máquinas pensantes que se sublevan y terminan por matar a su creador, esa mirada binaria de amo o esclavo, aún hoy condiciona en parte nuestro pensamiento en especulaciones de amenazas o de servidumbre. Pero nunca relacionales y aquí hay un punto.

En lo binario todo es bueno o malo, máquina o humano; no se pone atención en que la noción especulativa de las cosas y no-cosas serán indisolubles de nuestras emociones. Si en este sistema relacional del universo todo se compone con lo otro, la pregunta es cuál será nuestro diseño de AI: de competencia o de cooperación, como advierte Flavia Costa. Entonces nunca fue el problema la tecnología -tampoco la Naturaleza- sino la relación que establezcamos con ella.