Anthropic alerta que la IA ya estaría ayudando a crear versiones más avanzadas de sí misma

La carrera por el desarrollo de la inteligencia artificial acaba de sumar una nueva advertencia. Anthropic, uno de los laboratorios de IA más influyentes del mundo, aseguró haber detectado “primeros indicios” de que los sistemas de inteligencia artificial no solo están ayudando a programar nuevos productos, sino también a mejorar y desarrollar futuras generaciones de IA de manera autónoma.

La afirmación forma parte de una nueva agenda de investigación presentada por el Instituto Anthropic, el área creada por la compañía para estudiar los impactos sociales, económicos y de seguridad de esta tecnología.

Según el documento, los investigadores observan señales tempranas de un fenómeno conocido como “auto-mejora recursiva”, un escenario en el que una IA contribuye activamente a crear versiones más potentes de sí misma.

El tema es considerado uno de los debates más sensibles dentro de la industria tecnológica y hasta hace pocos años permanecía casi exclusivamente dentro de círculos académicos y de seguridad informática. Sin embargo, ahora aparece reflejado de manera explícita en un informe oficial de una de las empresas líderes del sector.

Jack Clark, cofundador de Anthropic y director del instituto, afirmó a Axios que existe más de un 60% de probabilidades de que antes de finales de 2028 un modelo de inteligencia artificial haya entrenado completamente a su sucesor.

“Mi predicción es que para finales de 2028 probablemente tendremos un sistema de IA al que podamos pedirle que cree una mejor versión de sí mismo y lo haga de manera completamente autónoma”, explicó Clark desde la sede de la empresa en San Francisco.

La advertencia se produce en medio de una aceleración sin precedentes en el desarrollo de herramientas basadas en IA generativa. Actualmente, modelos avanzados ya son capaces de escribir código, resolver problemas complejos, generar imágenes, automatizar procesos y asistir en tareas de investigación científica.

Según Anthropic, las nuevas herramientas internas ya están ayudando a acelerar parte del trabajo de investigación y desarrollo dentro de la propia compañía, algo que consideran un posible anticipo de una etapa mucho más avanzada.

El documento también menciona la posibilidad de una “explosión de inteligencia”, un concepto teórico que describe un momento en el que los sistemas de IA comienzan a mejorar a velocidades extremadamente rápidas, superando ampliamente el ritmo de innovación humana.

De acuerdo con Clark, este escenario podría tener consecuencias positivas y negativas. Entre los beneficios potenciales mencionó avances científicos acelerados, desarrollo de nuevos medicamentos y mejoras en múltiples áreas de investigación. Sin embargo, también advirtió sobre riesgos vinculados con ciberataques, vigilancia masiva y amenazas biológicas.

“¿Qué se hace con un crecimiento tan enorme en tantos campos científicos al mismo tiempo?”, planteó el directivo. “Las instituciones actuales tienen canales muy limitados para procesar nuevos descubrimientos”.

El Instituto Anthropic fue creado como una combinación entre centro de investigación y sistema de alerta temprana sobre riesgos de la IA. Su nueva agenda se enfoca en cuatro grandes áreas: impacto económico, amenazas de seguridad, uso práctico de agentes de IA y el desarrollo impulsado por sistemas inteligentes.

Dentro del apartado de amenazas y resiliencia, la empresa analiza riesgos relacionados con ciberseguridad, vigilancia digital y posibles usos indebidos de modelos avanzados. Mientras tanto, en el área económica, la compañía estudia cómo la automatización podría transformar el empleo y la distribución de beneficios derivados de la IA.

Anthropic se ha diferenciado de otras compañías del sector por mantener un discurso centrado en la seguridad y la regulación tecnológica. La empresa fue fundada por exintegrantes de OpenAI y actualmente compite con gigantes como Google DeepMind, Microsoft y Meta AI en el desarrollo de modelos avanzados de inteligencia artificial.

El laboratorio aseguró que en los próximos meses publicará más información sobre cómo las herramientas de IA están acelerando procesos internos de investigación y desarrollo, además de compartir nuevos estudios sobre las implicancias de la auto-mejora recursiva.

Aunque todavía no existe evidencia de sistemas completamente autónomos capaces de evolucionar sin intervención humana, el informe deja en claro que las grandes tecnológicas ya consideran este escenario como una posibilidad concreta para los próximos años.