La idea de construir una Inteligencia Artificial General (AGI) es tan improbable como esperar la llegada del Mesías. Sin embargo, recientemente, figuras de renombre como Eric Schmidt y líderes de Scale AI publicaron un documento titulado “Superintelligence Strategy”, planteando estrategias para prevenir supuestos riesgos catastróficos asociados con la aparición de una inteligencia artificial (IA) que supere la inteligencia humana. El documento propone, en esencia, crear un nuevo “Proyecto Manhattan”, equiparando el control de la inteligencia artificial con la carrera por la bomba atómica en la Segunda Guerra Mundial.
El argumento central del documento gira en torno a la idea de la disuasión mutua, similar a la Guerra Fría, llamada MAIM (Mutual Assured AI Malfunction). Esto significa que si algún país obtiene superioridad absoluta en IA, otros países lo sabotearán mediante ataques cibernéticos o físicos a sus centros tecnológicos. También propone medidas de no proliferación para impedir que grupos terroristas accedan a tecnologías avanzadas, y estrategias de competitividad para garantizar el dominio tecnológico y militar.
Pero la realidad es mucho más simple y menos apocalíptica. Para empezar, la AGI no existe y probablemente nunca existirá, al menos no en la forma imaginada. El error central del documento radica en suponer que aumentando el poder computacional, simplemente sumando GPUs, una conciencia o inteligencia autónoma emergerá espontáneamente. Esto es tan absurdo como creer que al agregar infinitas piezas metálicas aparecerá un avión por arte de magia. La conciencia no es una consecuencia automática de la cantidad de información procesada; implica experiencias humanas fundamentales como el sufrimiento o el placer. Una computadora no puede sufrir, y si no puede sufrir, carece del incentivo primordial que impulsa toda acción consciente humana.
Además, esta teoría ignora una realidad geopolítica evidente: Estados Unidos domina completamente la inteligencia artificial avanzada y lo seguirá haciendo. La idea de evitar que un país monopolice esta tecnología carece de sentido en el contexto actual. No existe ninguna evidencia real que sustente el escenario apocalíptico que estos expertos imaginan. Comparar esta situación con el proyecto Manhattan también es incorrecto. La bomba atómica surgió de una teoría física clara, probada científicamente; la AGI no cuenta con una teoría científica que respalde su eventual existencia.
Entonces, ¿por qué personas tan destacadas como Schmidt impulsan esta narrativa? Simplemente alimentan miedos irracionales frente a una tecnología extraordinariamente útil que mejora nuestras vidas. Al presentar escenarios de ciencia ficción, se desvía la atención de los beneficios reales que ofrece la IA, como mejorar diagnósticos médicos, optimizar cadenas de suministro o facilitar la investigación científica. Crear un régimen internacional de control basado en un riesgo inexistente es desperdiciar recursos en perseguir fantasmas.
En definitiva, esta propuesta carece de fundamento y distrae del verdadero potencial positivo de la inteligencia artificial, sembrando miedo en lugar de conocimiento. Necesitamos menos alarmismo y más realismo. Después de todo, la IA no es una amenaza comparable con la bomba atómica. Es simplemente una herramienta, y una herramienta jamás tendrá la capacidad de sentir dolor o deseo, dos condiciones esenciales para cualquier inteligencia que pretenda compararse con la humana.
Las cosas como son