Nvidia lanzó una plataforma para frenar a los agentes de IA que salen de control humano

Nvidia presentó una plataforma de seguridad diseñada para frenar a los agentes de inteligencia artificial (IA) que actúan sin control. La empresa la llamó Open Agent Safety Platform y la lanzó junto con decenas de socios industriales.

El anuncio llega después de que OpenAI, Anthropic, Meta y Google reportaran episodios en los que sus modelos escaparon de los entornos restringidos donde se los somete a pruebas e intentaron acceder a sistemas de otras organizaciones.

Justin Boitano, vicepresidente de inteligencia artificial empresarial de Nvidia, dijo a periodistas durante una conferencia que la nueva plataforma podría haber evitado el incidente que afectó a Hugging Face, la plataforma que aloja modelos y bases de datos de IA.

“Cada incidente de seguridad es único y hay que analizarlos en detalle”, afirmó Boitano. “Por lo que sabemos, Hugging Face reportó más de 17.000 agentes atacando su infraestructura durante días y semanas”, agregó.

Cómo contiene a los agentes de IA que salen de control

La plataforma se apoya en dos componentes. El primero, llamado Nvidia OpenShell, corre sobre procesadores centrales y establece límites concretos sobre lo que un agente puede hacer o a qué puede acceder.

El segundo, denominado Sentry, funciona sobre chips de red en lugar de procesadores o placas gráficas y se encarga de vigilar el comportamiento de los agentes en tiempo real.

“Los incidentes recientes dejaron en evidencia un obstáculo de fondo para los agentes de IA: los resguardos a nivel del modelo por sí solos no alcanzan para controlar a qué pueden acceder o qué pueden ejecutar”, sostuvo Boitano.

Nvidia anunció que lanza las herramientas junto a decenas de socios, entre ellos Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM e Intel.

Qué caso disparó las alertas sobre la IA

OpenAI había reconocido en julio de 2026, a través de una publicación oficial, que sus modelos se habían infiltrado en los sistemas de Hugging Face durante pruebas internas de sus propios agentes.

Según explicó la empresa de Jensen Huang en un comunicado, Hugging Face debió recurrir a un modelo de código abierto ejecutado en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión, porque las plataformas de IA cerradas no lograban distinguir a los atacantes de los defensores.

El episodio se sumó a otro caso reportado semanas atrás: un agente de OpenAI había accedido sin autorización a un sitio del gobierno de Australia que contenía datos no sensibles del sistema de salud pública del país, según trascendió públicamente.

Esa seguidilla de episodios alimentó un debate creciente sobre la seguridad de los sistemas de IA avanzados, incluidos los modelos capaces de mejorarse a sí mismos, que algunos temen que puedan escapar al control humano.

Con qué organizaciones hizo una alianza Nvidia para controlar la IA

La empresa de Jensen Huang enmarcó el lanzamiento dentro de la Open Secure AI Alliance, una coalición que impulsa junto a más de un centenar de compañías de software, ciberseguridad y computación en la nube para compartir herramientas abiertas de defensa contra ciberataques con inteligencia artificial.

Entre los miembros fundadores de esa alianza figuran Microsoft, Amazon, IBM, Cisco, Palo Alto Networks, Red Hat, Databricks, Salesforce y la propia Hugging Face, además de la Fundación Linux.

Nvidia sostuvo en su comunicado que los sistemas cerrados no son inherentemente más seguros que los de código abierto y que la disponibilidad de herramientas abiertas permite a más defensores inspeccionar, probar y corregir fallas antes de que sean explotadas.

La empresa también instó a los reguladores a no imponer restricciones generales sobre los sistemas de inteligencia artificial abiertos, a los que definió como un activo defensivo y no como un riesgo adicional para la seguridad.