El grave peligro de la Inteligencia Artificial: las alucinaciones

El tema con la Inteligencia Artificial es lo que llaman “alucinaciones”: o sea que la propia máquina y su programa “elaboran” respuestas inventadas, propias, autónomas, no lógicas y peligrosas. ¿Se entiende? El sistema crea a partir de lo que posee como insumos, respuestas creadas por sí mismo, no necesariamente racionales. Este es el “turning point” en el que estamos. Este es el punto del debate central que hay que instalar. Acá está el problema, no es que la máquina responda según se le introdujo el conocimiento sino el riesgo está en que invente lo que no sabemos que será. Ese es el caballo de Troya.

Si esas máquinas, además, tienen “poder” sobre los humanos, estamos en problemas.

¿Estaremos desde ahora siempre en problemas? No necesariamente, si las máquinas y los programas informáticos tienen algún nivel de regulación o control, los riesgos serán menores, acotados por lo menos. No creamos en al autocontrol empresarial, eso es imposible y lo sabemos todos. Sigamos. Hay que alcanzar algún nivel de control. Eso, justamente, no está claro cómo se producirá.

Lo que vivimos en los últimos tiempos es una atronadora aceleración del poder de las empresas tecnológicas en IA. Estas empresas no son la Cruz Roja, y está bien que no lo sean, no nacieron con objetivos altruistas, pero se están llevando el mundo a empujones de genialidad y construcción de oligopolios del conocimiento. Cuidado.

No ser necio sería necesario en esta hora: a la cabeza del consumo mundial está el conocimiento. Antes creíamos que la “demanda” no se inventaba, que era lo que el mercado solicitaba. Nos dimos cuenta (con el tiempo) que hay productos que nunca necesitamos y que de forma aspiracional se nos instalaron delante de nuestras narices y enganchamos. Allí, no estábamos satisfaciendo “necesidades básicas” sino otros asuntos menores que el “imaginario colectivo” mandataba. El hombre de Marlboro es la mejor imagen publicitaria que podemos recordar para ejemplificar el consumo de tabaco que no era una “necesidad”. Pero la creó el humano a esa -supuesta- necesidad. Y un día llegamos al colmo que hasta hubo médicos que defendieron el consumo de tabaco. (Habría que ver si el tabaco no oculta complejos, inseguridades y otras fragilidades humanas; es otro debate).

Sí, es un dato penoso: el consumidor le viene ganando al ciudadano. La gente parece ser mucho más consumidora que ciudadana. Los ciudadanos irrumpen en fases finales de la sociedad cuando cruje el tejido social, cuando se los convoca a decidir, pero en el día a día, se advierten más consumidores que ciudadanos en el mundo. No es una valoración, es una apreciación del comportamiento social que no necesariamente me gusta reconocer.

A diario, lo que vemos, son consumidores de lo que sea por todos lados. Y, en parte sucede esto porque necesitamos consumir para vivir, pero no todo lo que consumimos es necesario para existir, es más, mucho de lo que consumimos nos está matando.

Los consumos en las pantallas lo dicen todo: ropa, pornografía, estética hiperbólica, diversión, golosinas químicas, deportes a manera de alienación televisiva, formatos de entretenimiento y chismografía. Es verdad, son las mismas pantallas que también educan al mismo tiempo, pero el tiempo que pasa la gente perdiendo horas en escapismos asusta. (“Tiempo en pantalla” en su teléfono móvil, las cifras aumentan y aumentan y los teléfonos móviles nos están succionando la vida).

La conversación en las redes sociales tiene mucho más que ver con una esencia primitiva del ser humano que con un ser cooperante y comunitario. Se ruge allí adentro, es verdad, por eso apareció INSTAGRAM, como diciendo: déjame volver a un mundo agradable por un rato (aunque no sea real la foto de la playa con el filtro y el sol radiante). O TIK TOK que es humor, grotesco o liviandad estética. (Y que ya es fruto de una guerra comercial -entre las dos potencias más grandes del planeta- empezando a eventualmente estar prohibido en algún estado de Estados Unidos con multas que llegan hasta 10.000 dólares por su uso).

El Sapiens conversador de las redes sociales es un ser que grita, blasfema, odia, vitupera y no quiere nada más que espasmos espontáneos, en general violentos en lo retórico. ¿TWITTER es eso verdad? Son pulsiones que se descargan. Mucho más parecido a un botón de baño que a un territorio de libertad de expresión para construir acuerdos. Es que no se va allí a consensuar nada. Lo propio pasa en páginas WEB de diarios con opiniones de los lectores encubiertos en el anonimato o rincones de internet: la gente ladra y desprecia (el anonimato -ya lo deberíamos saber- no existe, pero alguna gente aún entiende que un anónimo no detecta un IP o el lugar de donde opera).

Por eso hasta individuos muy inteligentes, con la cabeza abierta como Yuval Noah Harari o empresarios posmodernos como Elon Musk, están preocupados (y no tienen nada que ver esas cabezas). ¿Cuál es la razón? Tienen temor que todo se vaya al demonio. Tienen razón, estamos en zona delicada.

¿Qué se hace cuando se está en zona delicada? Se piensa, se medita y se actúa.

Pensar implica reflexionar, dialogar e intercambiar puntos de vista, no escupitajos y órdenes. Meditar obliga a decantar ideas, a someterlas al contencioso interno, externo y luego revisarlas de manera mesurada. Actuar es tomar decisiones luego de haber recorrido todo lo anterior a manera de cierta garantía que no se actuará por impulso de brutal ferocidad.

Acá, los que tienen que actuar resulta que no tienen el poder para actuar. Otro lío porque el “poder real” lo tienen los que dominan el poder sobre las máquinas y los programas informáticos. Es casi alienante lo que vivimos, no es Terminator, ni 2001 Odisea del Espacio, ni todos los cuentos de Isaac Asimov juntos, es lo que estamos viviendo en esta hora. No sé lo que pasará mañana.

O sea, los que objetamos y nos preocupamos por lo que vivimos, siempre sosteniendo la libertad como bandera central -que quede claro- somos ciudadanos del mundo inquietos con el destino de la humanidad, de nuestros hijos y de todo lo que nos rodea.

Un dato: el peso que han perdido varios organismos internacionales como voz de alerta está cotizando cada vez más a la baja. Se supone que para esto existen algunos organismos internacionales.

Claro, la OTAN con uso de la fuerza tiene más poder que ayer. Pero es la excepción. Ellos por estos días parecen relucientes. No así los organismos internacionales de la Salud que en pandemia mostraron flaquezas. El ejemplo del COVID es elocuente: allí la ciencia aceleró más de diez veces su capacidad para elaborar una vacuna y la humanidad no cooperó a esa velocidad, simplemente cada uno hizo la suya. El poder, los poderes fueron individualistas. Resultado: solo los más hábiles y los más “aptos” llegaron con las vacunas a tiempo para más gente. Murió demasiada gente que no debió haber muerto en muchos países.

Por eso cuando los parlamentarios norteamericanos se juntan con los ejecutivos de las empresas de inteligencia artificial, y antes lo hicieron con los dueños de las redes sociales, siempre queda la impresión que aquello es una performance, un acting, algo que se hace con buena fe pero que no arroja nada demasiado conclusivo.

¿Quién le pone el cascabel al gato entonces?

Esa es la única pregunta para hacer y no es sencillo responderla.

Va una respuesta para pensar.

Es pertinente que Naciones Unidas entienda que este tema debe pasar a estar en primer nivel de su agenda. En primer nivel. Es de orden entender que no se debe dejar liberado el proceso de IA sin asumir responsabilidades por parte de sus creadores. Son demasiado poderosos, manejan parte de nuestro destino como humanidad y no es lógico que no haya transparencia en estos menesteres. Se le pide a todo transparencia: ¿Cuál sería la razón para no pedirlo en esto?

Se puede convocar de urgencia una reunión de expertos de todos los países, trabajar con una hoja de ruta básica que establezca marcos regulatorios (Europa como tiene vocación por regular todo, ya tiene algo hecho, sus borradores pueden servir de base) y desde allí montar una normativa urgente y elaborar un Tratado rápido. Esa debería ser la línea y tener para fin de año eso cerrado. No es imposible.

Por supuesto si usted consulta a mis colegas juristas, todos dirán que no es posible. Lo mismo decían otros de la vacuna del COVID. Es la misma gravedad, no sabemos qué entidad de daño tiene una IA delirante, pero sabemos que corremos riesgos. ¿Los queremos correr? Pues que los corran las dictaduras, si así lo desean, tema de ellas. Las democracias pueden producir esos marcos regulatorios con revisión cada seis meses, atento al vértigo en que estamos. Las democracias somos conversatorios que consensuamos acuerdos, que establecemos contratos sociales en base a cooperación y competencia, pero pensando en el objetivo superior de todos nosotros. Las dictaduras invierten esta ecuación, por eso, habría que darles noticia, pero ya sabemos que allí las IA patológicas (ojo, mucho cuidado) van a ir por mal camino. Por eso hay que pensar en eso también. ¿Se entiende la complejidad de lo que tenemos por delante? Si tuviéramos un mundo de paz y de armonía, como el que se insinuaba hasta hace unos años -y yo creí que eso era lo que estaba irrumpiendo- no pensaría así. Pues no lo creo, desde la agresión a Ucrania mucho cambió y todos deberíamos saber que el mundo es más frágil.

No tiene misterio el asunto. Están los que no quieren hacer nada por necios o pícaros. Esos no ayudan. Están los que quieren regular todo. Estos molestan. Y están los que saben que algo hay que hacer: cambiar parte de la cultura global, construir pistas por donde transitar y avisar que hay otras que no se pueden usar hasta que no entendamos en que estamos.

Hay, por cierto, también un debate ético que habrá que dar, es que todo va tan rápido que no le hemos podido plantear a los que filosofan que lo hagan porque los escenarios de IA mutan de una semana a la otra y están cada vez más belicosos y difíciles de secuenciar. ¿Se puede filosofar sobre un ente que es como Cronos que se come a sus propios hijos? No está fácil eso tampoco, pero hay que hacerlo de manera urgente. Pensarnos en este contexto.

Esta es la primera vez que estamos en zona de no comprensión del poder que producimos, que tenemos y no conocemos su real letalidad. Y lo loco del asunto es que podría decidir una máquina sobre el destino de nuestras vidas en base a ese poder sesgado que nosotros inventamos.

Nunca mejor dicho aquello de “el invento que mató al inventor”

Deberíamos poder ordenar este asunto. Deberíamos.

Seguir leyendo: