Según un nuevo informe del think tank global The Millennium Project Global Futures Studies and Research (Proyecto Milenio), que reúne a 71 nodos de países y regiones en el mundo, los beneficios de la Inteligencia Artificial General (AGI) son tan grandes en medicina, educación, administración y productividad, que las corporaciones están compitiendo por ser las primeras en desarrollar y aplicar sus potencialidades.
Lo mismo ocurre con los gobiernos, debido a que la AGI aumentará el poder político, y tratan de adelantarse en su utilización. Por eso, la cooperación internacional es esencial, ante las tensiones entre naciones y corporaciones, que compiten por la supremacía en esta tecnología.
Los riesgos compartidos pueden incentivar u obligar a la colaboración, pero para eso se debe superar la desconfianza. Esto plantea un enorme desafío, por eso que una gobernanza global del desarrollo de este instrumento, es fundamental.
En este informe, titulado “Cuestiones de gobernanza internacional de la transición de la inteligencia artificial estrecha a la inteligencia artificial general (AGI)”, un grupo de 55 líderes y expertos mundiales en inteligencia artificial, de Estados Unidos, China, el Reino Unido, Canadá, la Unión Europea y Rusia, entre ellos Sam Altman, Bill Gates y Elon Musk, explican las posibilidades futuras, y advierten que los sistemas avanzados de inteligencia artificial podrían surgir antes de lo esperado, lo que plantea riesgos sin precedentes, a menos que se establezcan rápidamente marcos de gobernanza prudentes.
Se pronuncian sobre cómo regular la AGI, ya que puede llegar en los próximos años a manejar nuevas situaciones tan bien o mejor que los humanos, lo que representaría una “explosión de inteligencia” que crearía una IA superior a las capacidades humanas. La falta de gobernanza podría conducir a resultados catastróficos, incluidas amenazas existenciales a la humanidad, si dichos sistemas no están alineados con los valores e intereses humanos.
El informe concluye que ningún modelo de gobernanza existente está preparado adecuadamente para gestionar los riesgos y oportunidades que plantea la AGI. Requiere el rápido desarrollo de un nuevo tipo de gobernanza flexible que pueda igualar y anticipar el ritmo del cambio de la IA y proporcionar las salvaguardias necesarias, sin sofocar sus avances.
Según Ilya Sutskever, cofundador de OpenAI, “AGI está más cerca que nunca: el próximo avance podría superar la inteligencia humana. “La alineación con los valores humanos es fundamental pero desafiante”, señaló Ben Goertzel, autor de AGI Revolution.
“Se trata más de quien controle el desarrollo y el uso de la AGI que de una lista de éticas; estamos todos juntos en este barco, si las cosas van mal, estamos todos condenados”, según el profesor de Oxford Nick Bostrom.
Es posible que se necesiten poderes ejecutivos extraordinarios para que la gobernanza sea confiable y eficaz a nivel mundial, lo que podría incluir a las capacidades militares. Aunque son controvertidas, es posible que se necesiten propuestas para limitar temporalmente la investigación y el desarrollo, a fin de dar tiempo para diseñar e implementar soluciones de gestión. El plazo para desarrollar una gobernanza eficaz es breve y exige una colaboración sin precedentes.
El Secretario General de la ONU está organizando un órgano asesor global de las partes interesadas para crear el marco de la ONU para la gobernanza internacional de la IA, por lo que habrá un evento que se celebrará el 20 de septiembre de 2023 en el contexto del 77º período de sesiones de la Asamblea General de las Naciones Unidas en Nueva York, en el que el Proyecto Milenio participará representado por Jerome Glenn, su director ejecutivo.
Dado que lo que está en juego puede incluir la extinción humana, el informe advierte que no podemos permitirnos demoras en la movilización de la cooperación global. Si no logramos una Convención de la ONU sobre AGI y una Agencia de AGI de la ONU para hacer cumplir las reglas, barreras de seguridad, auditoría y verificación, entonces podrían surgir varias formas de Superinteligencia Artificial fuera de nuestro control. En este sentido, el Proyecto Milenio pide medidas urgentes para crear esa gobernanza a nivel nacional e internacional.