Slavoj Žižek y Werner Herzog, una conversación “infinita” hecha por Inteligencia Artificial

“Estoy convencido de que nuestra imaginación no se verá disminuida por los inventos técnicos, sino que se profundizará” le dice la voz del cineasta Werner Herzog al filósofo Slavoj Žižek en The Infinite Conversation. A fines de 2022, un italiano con formación en historia clásica y ciencias de la computación creó la página web infiniteconversation.com. Allí se puede encontrar un diálogo, justamente “infinito” entre el director alemán y el filósofo esloveno, creado con inteligencia artificial.

Las voces, las ideas y sus retratos se llevaron adelante tomando datos de cada uno, en base a muchísimas fuentes de internet. Se llaman deepfakes: altamente parecidos a la realidad y por momentos indistinguibles, usados para crear desinformación política y pornografía, los discursos, las voces y el contenido de lo que dicen no es real, pero parece. Como la mayoría de los deepfakes, La conversación infinita no tiene el consentimiento de sus autores.

Te puede interesar: ‘Jáquer’, ‘wiski’ o ‘jol’, recomendaciones de la RAE contra los extranjerismos

Los supuestos Herzog y Žižek dialogan de filosofía, psicología, cine, de geopolítica y del fin del mundo, pero también cuentan anécdotas y confiesan deseos y sueños. Se escuchan entre sí y se responden, retomando algún aspecto del comentario del otro, como si fuese un diálogo real entre dos personas que conocen bien las reglas de la conversación.

“¿Sabés una historia muy extraña sobre Klaus Kinski que nunca se hizo pública? En medio del rodaje de Fitzcarraldo, en algún momento tuvimos una pelea terrible y él trató de dispararme” cuenta el falso Herzog. Lo inquietante de esa anécdota es que ouede ser altamente verosímil, ya que en la demencial filmación de la película hubo varios accidentes y, según cuenta el director en su libro Conquista de lo inútil (Diario de filmación de Fitzcarraldo), dos caciques indígenas le ofrecieron matar, porque no lo soportaban, al actor alemán.

Hace pocos días, el filósofo Žižek publicó en Project Syndicate un artículo con algunas reflexiones y peligros de la nueva generación de inteligencia artificial: para él, hay ciertos usos del lenguaje que un robot no entendería ni podría tener el ingenio para hacerlos. Y su preocupación está en que las personas, en el auge de la comunicación con el último modelo de chatbots, empiecen a hablar y a escribir como ellos: de manera chata, sin matices. La famosa frase “Imaginar un lenguaje significa imaginar una forma de vida” que escribió Ludwig Wittgenstein hace años resuena nuevamente ante estas tecnologías que, por lo pronto, lo que más generan es recelo.

Algo similar, aunque menor, suscitó que los emojis comenzaran a ser moneda corriente en los chats, así como todas aquellas instancias en las que la comunicación está preestablecida. Tal es el caso de la redacción inteligente de Gmail, Outlook y otros servidores y, en menor medida, las apps de citas: en todos estos casos, la comunicación tiende a un mero intercambio de información y se borran todos aquellos giros irónicos, ambiguos, indirectos, creativos: la conversación se vuelve, en algún punto, artificial. De acuerdo con Žižek, en el trato con IA también se erosionarían estos aspectos del diálogo. Pareciera que el pronóstico del Žižek real se contradice con el del Herzog artificial: nuestra imaginación no se profundizará, sino que se volverá más robótica.

En La conversación infinita, los deepfakes de Herzog y Žižek se interesan por los mismos temas que las personas reales, pero eso no implica que sus aserciones hayan sido reales. En ese diálogo interminable, lo que dicen puede ser verdadero o no, así como puede haber sido dicho por uno de ellos o no.

Por brillante que sea el proyecto, no deja de ser peligroso. Giacomo Miceli, el creador de este programa, escribe, al tanto de los riesgos que implica: “Este proyecto pretende concienciar sobre la facilidad de uso de herramientas para sintetizar una voz real. Ahora mismo, cualquier tonto con iniciativa puede hacer esto con una computadora en su habitación”.

La falsa credulidad es uno de los grandes problemas que generan los chatbots. Aunque parezca contradictorio, los bots tienen sesgos de formación. Que tengan una altísima capacidad de procesar, reunir y sintetizar información no implica que no la seleccionen: como circularon en internet en los últimos días queda a la vista que ChatGPT prioriza la información eurocentrista y androcentrista. Por eso, confiar excesivamente en el conocimiento de los bots puede conducir a resultados erróneos. Queda claro que los sesgos no están dados por la ignorancia.

Los chatbots GPT son una tecnología cuyos poderes, con lo bueno y lo malo, aún no se conocen del todo. Como si hubiese sido desarrollada simplemente por sus posibilidades técnicas, pero sin pensar el para qué, y como tecnología “a la mano” disponible para que cada uno y cada compañía la use como quiera. Traducciones, ideas, discursos, libros escritos con IA aparecen masivamente, pero además comienza a investigarse la relación de robots entre ellos, como es el caso de este proyecto. The Infinite Conversation se basa en la comunicación de dos bots entre sí, con distintas personalidades y distintas voces, que se escuchan y forman su discurso en relación al otro, a diferencia del boom de ChatGPT-4 que implica la relación entre un bot y una persona humana. Sin que apenas nos demos cuenta, los robots comienzan a formar parte de nuestras vidas, y todas aquellas distopías se encuentran cada vez más cerca.

Sería relevante desde un punto de vista filosófico señalar qué posibilidades abre esta nueva tecnología y qué modos de vida habilitaría este nuevo lenguaje. Porque más allá de los daños, la inteligencia artificial es una herramienta poderosísima capaz de cambiar el mundo: ya se presume qué profesiones podrían pasar a estar a cargo de robots y cuáles deberían adaptarse a la nueva tecnología en los próximos años. Hay usos cuyo beneficio es indiscutible: la supresión de errores humanos y el llevar a cabo tareas automáticas para que no tengan que hacerlas personas humanas.

En este contexto es que está circulando una carta que ya firmaron CEOs de la talla de Elon Musk y académicos que pide detener los experimentos gigantes de IA hasta que estemos preparados éticamente, y no sólo técnicamente, para enfrentarlos. Y allí se plantean algunas de estas preguntas, para ser respondidas desde la filosofía: “¿Debemos automatizar todos los trabajos, incluidos los más gratificantes? ¿Debemos desarrollar mentes no humanas que con el tiempo nos superen en número, inteligencia, obsolescencia y reemplazo?”.

Pensar en un mundo en el que el trabajo automatizado (que puede ser suplido por un bot) deja de articular la vida en común, en cierto sentido puede ser revolucionario. Frente a todos estos nuevos problemas, regular las nuevas tecnologías sin que implique una violación de la privacidad, una pérdida de libertad y un retroceso técnico es el gran desafío político, mediático y filosófico de la actualidad.

Seguir leyendo