Cómo evitar que la inteligencia artificial acabe con la humanidad

Los rápidos avances que ha experimentado el desarrollo de la inteligencia artificial y el impacto que empieza a tener en la vida de millones de personas y empresas, ha generado fuertes preocupaciones en algunos sectores y muchos se preguntan si el ser humano estará diseñando su propia extinción.

Una incertidumbre que no es ignorada por Mustafa Suleyman, cofundador de la división de IA de Google, quien ha reiterado en varias ocasiones sobre la cada vez más urgente necesidad de ponerle límites a esta tecnología para evitar un escenario catastrófico.

Suleyman, aseguró en una entrevista reciente con el MIT Technology Review, que se debe descartar cualquier posibilidad que le permita a esta tecnología actualizar su propio código fuente sin supervisión humana.

Para el cofundador de DeepMind, la “automejora recursiva”, un concepto que hace referencia a la capacidad de la IA para mejorarse a sí misma con el paso del tiempo; implica un gran riesgo que debe ser gestionado. De hecho, desde su punto de vista la actualización de estos sistemas “quizás debería ser una actividad autorizada, como la manipulación de ántrax o los materiales nucleares”.

Este pionero de la inteligencia artificial también considera que es muy importante que las personas establezcan “límites que una IA no puede cruzar, y garantizar que esos límites creen una seguridad demostrable en todo el camino, desde el código real hasta la forma en que interactúa” con otros modelos y con los humanos.

Sin embargo, Suleyman, que el año pasado cofundó la startup Inflection AI, se mostró “optimista” en cuanto a la posibilidad de regular eficazmente a esta tecnología. A su juicio, existen “como 101 cuestiones más prácticas” en las que habría que centrarse antes de pensar en un escenario apocalíptico, como es el caso de los temas relacionados con la privacidad, el reconocimiento facial o la moderación de contenidos.

Para el ejecutivo, el mayor reto al que nos enfrentaremos en la próxima década será la proliferación del poder porque amplificará la desigualdad y acelerará la polarización en un contexto en el que va a ser más fácil que nunca difundir información errónea.

En el contexto actual, se ha prestado una mayor atención a la cuestión de la regulación de la IA a nivel institucional, incluso la semana pasada varios pesos pesados del mundo de la tecnología como Sam Altman, Elon Musk o Mark Zuckerberg, se reunieron en Washington en una sesión a puerta cerrada para hablar del tema.

Suleyman, por su parte, actualmente desarrolla con su compañía un chatbot de inteligencia artificial llamado, Pi, el cual ha sido diseñado para ser un oyente neutral y proporcionar apoyo emocional a sus usuarios. Y aunque según el empresario, el sistema no tiene tantas propiedades como otros generadores de textos, es “increíblemente controlable”.

Suleyman, asegura que en apenas cinco años todo que todo el mundo va a tener acceso a una IA “súper inteligente” que “entiende tu historia personal”. Incluso considera que “será un asistente, un coach personal y un compañero” debido a que “será capaz de hacerte pensar durante el día, de ayudarte a priorizar tu tiempo a inventar y a ser mucho más creativo”.

El CEO en Inflection AI, prevé que esta inteligencia artificial “va a estar completamente alineada con tus intereses y te ayudará a gestionar y procesar toda la información que necesites” e irá más allá de la mera asistencia virtual.

Según Suleyman, en apenas media década “todo el mundo tendrá su propio jefe de personal”; un puesto de trabajo cuyo objetivo consiste en ayudar a los altos ejecutivos a tomar mejores decisiones empresariales y para algunos es la mano derecha del jefe.