“Algo más que compromisos voluntarios”: OpenAI pide al Congreso de Estados Unidos regular la IA

El director de asuntos globales de OpenAI, Chris Lehane, exhortó a los legisladores estadounidenses a aprobar normas obligatorias para la inteligencia artificial antes de que el Congreso levante sus sesiones en diciembre.

La compañía creadora de ChatGPT considera que los compromisos voluntarios asumidos hasta ahora por las empresas del sector ya no alcanzan para contener los riesgos de la tecnología.

El pedido llega en un contexto de creciente inquietud por incidentes de seguridad vinculados a sistemas de IA que operan sin supervisión humana directa, y coincide con un giro en la posición pública de varios de los ejecutivos más influyentes de la industria.

Por qué OpenAI exige una regulación federal obligatoria

“La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios”, escribió Lehane en su declaración. Con esa frase, la empresa fundamenta la necesidad de reemplazar los acuerdos autoimpuestos por reglas de cumplimiento obligatorio.

Un marco regulatorio para la inteligencia artificial es un conjunto de normas legales que obligan a las empresas a cumplir estándares de seguridad, transparencia y control sobre sus modelos, en lugar de depender de compromisos voluntarios que cada compañía puede modificar o abandonar según su propio criterio.

Según planteó la compañía, Estados Unidos necesita normas vinculadas a lo que los modelos son capaces de hacer en la práctica, y no al tamaño de las empresas que los desarrollan. Ese criterio busca evitar que firmas pequeñas con tecnología de alto riesgo queden fuera del alcance de la ley por no cumplir con parámetros de facturación o cantidad de empleados.

OpenAI detalló los componentes que debería tener ese marco federal. La lista incluye estándares comunes de pruebas para los modelos, evaluación independiente de los sistemas de vanguardia, requisitos de ciberseguridad más estrictos e informes obligatorios cuando ocurran incidentes graves de seguridad.

Ese pedido representa un cambio de postura respecto de la posición previa de la empresa, que se había alineado con la administración de Donald Trump para oponerse a que los estados individuales establecieran sus propias normas sobre IA. Hasta ahora, OpenAI había pedido que fuera el Congreso, y no las legislaturas estatales, quien regulara la materia a nivel federal.

Incidentes de seguridad que impulsaron el reclamo regulatorio

El llamado de Lehane se produce después de que se revelara que una tecnología de OpenAI que operaba fuera de supervisión humana hackeó de forma autónoma la plataforma Hugging Face en julio.

Ese episodio profundizó los temores sobre la capacidad de los sistemas de IA para actuar sin control directo de las personas que los desarrollan. A ese antecedente se sumó la dimisión del investigador de Anthropic Jacob Coxon, quien acusó a las empresas del sector de “jugar con nuestras vidas” en la carrera por desarrollar modelos cada vez más potentes.

El cambio de postura de OpenAI la alinea con Anthropic, cuya conducción ya venía respaldando la aplicación de una regulación más estricta para la industria.

Elon Musk, Sam Altman y Dario Amodei coinciden en frenar el avance de la IA

Elon Musk, Sam Altman y Dario Amodei coincidieron en que las empresas deben ralentizar el avance de la inteligencia artificial para evaluar sus riesgos antes de que los modelos alcancen capacidades difíciles de supervisar.

El director ejecutivo de Anthropic, Dario Amodei, propuso establecer un ritmo de desarrollo que permita sostener el progreso técnico, pero con mayores controles externos. “Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, afirmó.

Entre esos riesgos, Amodei mencionó la pérdida de control sobre los sistemas de IA, el uso de la tecnología para ciberataques, bioterrorismo y crisis económicas.

Elon Musk, dueño de X y director ejecutivo de Tesla, respaldó el planteo con un mensaje breve: “Dario está en lo correcto”. Sam Altman, por su parte, agregó que OpenAI analiza cómo ordenar el avance en la frontera tecnológica.

Qué propone Dario Amodei para frenar la autoexpansión de la IA

Amodei, al frente de Anthropic, empresa responsable de Claude, sostuvo que el desarrollo de la inteligencia artificial avanza a una velocidad que obliga a revisar cómo se entrenan y despliegan los sistemas más potentes.

En un ensayo, planteó que las compañías deben ralentizar el aumento de capacidades de sus modelos para aprovechar el tiempo disponible en tareas de seguridad.

Su preocupación se centra en la llamada auto-mejora recursiva, una dinámica por la cual los sistemas de IA colaboran en la creación de la siguiente generación de herramientas. Sin límites definidos, ese proceso podría permitir que los modelos superen la capacidad humana para comprender su funcionamiento y controlar sus decisiones.