La comunidad internacional se une frente a las amenazas "catastróficas" de la IA

Guillermo Ximenis

Bletchley Park (R.Unido), 1 nov (EFECOM).- La primera cumbre global sobre seguridad en torno a la inteligencia artificial (AI) ha logrado que Estados Unidos y China, dos potencias rivales especialmente enfrentadas en el ámbito tecnológico, se hayan alineado con buena parte de la comunidad internacional para alertar sobre las amenazas potencialmente "catastróficas" de la nueva tecnología.

Hasta 29 gobiernos, incluida la Unión Europea, se han dado cita este miércoles en un encuentro auspiciado por el Reino Unido en el que debaten hasta mañana jueves, junto a representantes de las principales empresas tecnológicas globales, planes para identificar y mitigar los riesgos de la IA.

El resultado más tangible de la cumbre es una declaración conjunta en la que los países participantes, entre los que también se incluyen España, Alemania, Francia, Brasil, la India y Canadá, entre otros, se comprometen a impulsar la cooperación internacional para evitar los peores augurios en torno a los nuevos sistemas inteligentes.

Los líderes políticos perciben peligros inmediatos como la capacidad de la nueva tecnología para generar desinformación, pero alertan especialmente sobre futuros riesgos "existenciales" para el conjunto de la humanidad.

Las amenazas van desde facilitar ataques informáticos a una escala no vista hasta ahora y dar las claves a grupos terroristas para fabricar armas biológicas, hasta la posibilidad de llegar a perder el control de un sistema autónomo, cuyos objetivos podrían comenzar a divergir de los que habían previsto los humanos.

"Ante el veloz e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente", subrayan los países en el comunicado conjunto.

La cumbre de seguridad impulsada por el Reino Unido tendrá continuidad en el futuro. Corea del Sur acogerá una "minicumbre" virtual dentro de seis meses, mientras que Francia será la anfitriona de un nuevo encuentro internacional en el plazo de un año.

A la cumbre en Blentchley Park (centro de Inglaterra), el enclave donde se decodificaban los mensajes secretos nazis durante la Segunda Guerra Mundial, han acudido responsables de las principales empresas tecnológicas que han iniciado al revolución en el sector.

OpenAI, Google DeepMind, Anthropic, Meta y Microsoft, entre otras, participan en los debates con académicos y políticos, muchos de ellos a puerta cerrada, para tratar de establecer una visión común sobre los retos que se presentan.

Una de las estrellas de la cumbre es el fundador de Tesla y propietario de la red social X, Elon Musk, que durante la primera jornada de la cumbre participó en gran parte de los debates y alertó de que la IA es uno de los principales peligros que afronta la humanidad.

"Por primera vez, estamos en una situación en la que hay algo que va a ser más listo que el más listo de los humanos", dijo el magnate estadounidense.

"No está claro si podemos de hecho controlar algo como eso, pero creo que debemos aspirar a guiarlo hacia una dirección que sea beneficiosa para la humanidad", agregó Musk, que apostó por crear un "árbitro independiente" que vele por la seguridad en el desarrollo de la IA.

Los organizadores de la cumbre quieren centrar el diálogo en la "IA de frontera", los modelos que todavía se están desarrollando y que podrían presentar amenazas "existenciales", pero todavía hipotéticas e indefinidas.

Sin embargo, algunas voces en la cumbre llamaron a poner el foco en peligros inmediatos más acuciantes.

Entre ellas, la vicepresidenta de Estados Unidos, Kamala Harris, que subrayó le necesidad de velar por que el uso de los actuales sistemas de inteligencia artificial generativa no afecten de manera desproporcionada a los colectivos más vulnerables.

"Cuando una persona mayor es expulsada de su plan de salud debido a un fallo en un algoritmo de IA, ¿no es eso existencial para él? Cuando una mujer se ve amenazada por una pareja abusiva con fotografías 'deepfake' ¿no es eso existencial para ella?", dijo Harris. EFECOM

gx/er/jla

(vídeo)(foto)