El presidente Joe Biden firmó este lunes una orden ejecutiva de gran alcance sobre la inteligencia artificial (IA), utilizando la fuerza de las agencias de todo el gobierno federal e invocando amplios poderes de emergencia para aprovechar el potencial y hacer frente a los riesgos de lo que llamó la “tecnología más importante de nuestro tiempo”.
Se trata de la iniciativa más ambiciosa del gobierno estadounidense para estimular la innovación y abordar la preocupación de que la floreciente tecnología pueda exacerbar los prejuicios, desplazar a los trabajadores y socavar la seguridad nacional.
“Una cosa está clara: para hacer realidad la promesa de la IA y evitar el riesgo, tenemos que gobernar esta tecnología”, dijo Biden durante un discurso en la Casa Blanca antes de la firma el lunes, calificando la orden como la “acción más significativa que cualquier gobierno en cualquier parte del mundo haya tomado sobre la seguridad, la protección y la confianza en la IA”.
La orden llega en un momento en que los responsables políticos y los reguladores de todo el mundo están estudiando nuevas medidas para supervisar y reforzar el despliegue de la tecnología, pero también en un momento en que los intentos de aprobar una legislación integral sobre IA en el Congreso siguen siendo incipientes, lo que limita a los líderes del gobierno federal a hacer cumplir las protecciones existentes y a seguir las medidas ejecutivas.
La orden aborda una amplia gama de cuestiones, imponiendo nuevas obligaciones de seguridad a los desarrolladores de IA y pidiendo a una serie de agencias federales que mitiguen los riesgos de la tecnología al tiempo que evalúan su propio uso de las herramientas, según un resumen proporcionado por la Casa Blanca.
La orden exige que las empresas que construyen los sistemas de IA más avanzados realicen pruebas de seguridad, una práctica denominada “red teaming”, y notifiquen los resultados al gobierno antes de lanzar sus productos. La orden hace uso de la Ley de Producción para la Defensa (Defense Production Act) -una ley de 1950 que se ha utilizado en crisis recientes como la pandemia de coronavirus y la escasez de leche maternizada- para exigir que las empresas compartan con el gobierno los resultados de las pruebas.
Biden dijo que estos poderes suelen reservarse para “los momentos más urgentes”, como los tiempos de guerra, y que pensaba utilizar la “misma autoridad para obligar a las empresas a demostrar que sus sistemas más potentes son seguros antes de permitir que se utilicen”.
La orden aprovecha el poder adquisitivo federal, ordenando al gobierno que utilice prácticas de gestión de riesgos cuando utilice IA que tenga el potencial de afectar a los derechos o la seguridad de las personas, según un borrador de la orden visto por The Washington Post. Según el borrador, las agencias deberán supervisar y evaluar continuamente la IA utilizada.
La orden también ordena al gobierno que desarrolle normas para que las empresas etiqueten los contenidos generados por IA, lo que suele denominarse marca de agua, y pide a varias agencias que analicen cómo la tecnología podría perturbar sectores como la educación, los servicios sanitarios y la defensa.
La orden se produce en medio de una oleada de esfuerzos para elaborar nuevas leyes, llevar a cabo investigaciones de protección de los consumidores y colaborar con los reguladores internacionales para frenar los riesgos de la IA. La medida tendrá amplias implicaciones para casi todos los organismos del gobierno federal, así como para una serie de empresas de Silicon Valley que se apresuran a crear sistemas avanzados de IA.
La aplicación de la orden supone una importante prueba para el gobierno de Biden, que ha tenido dificultades para cumplir sus promesas de crear barreras para las poderosas empresas de Silicon Valley. Biden y la vicepresidenta Harris se han comprometido desde la campaña electoral a abordar la competencia en el sector tecnológico y los perjuicios de las redes sociales, mostrando su intención de adoptar una línea más dura contra la industria tecnológica que la administración Obama.
Pero hay límites a lo que el gobierno de Biden puede conseguir sin una ley del Congreso. Aparte de nombrar a funcionarios clave con un historial de antagonismo hacia Silicon Valley, la Casa Blanca apenas ha tomado medidas en cuestiones tecnológicas. El Congreso, por su parte, no ha aprobado ninguna ley tecnológica importante, a pesar de años de intentos de elaborar normas sobre privacidad, seguridad en línea y tecnologías emergentes.
Como muestra de estas restricciones, la orden insta al Congreso a “aprobar legislación bipartidista sobre privacidad de datos para proteger a todos los estadounidenses, especialmente a los niños”, según el resumen de la Casa Blanca, una medida que sirve como reconocimiento tácito de las limitaciones de Biden.
“Puedo ver la frustración en esta [orden ejecutiva] de que mucho de esto debería hacerlo el Congreso, pero no están haciendo nada”, dijo Ryan Calo, profesor de derecho especializado en tecnología e IA en la Universidad de Washington.
No está claro hasta qué punto la orden afectará al sector privado, dado que se centra en los organismos federales y en “circunstancias muy concretas” relacionadas con asuntos de seguridad nacional, añadió Calo.
Un alto funcionario de la administración Biden, que informó a los periodistas bajo condición de anonimato antes de la presentación de la orden, dijo que debido a que establecen un “umbral muy alto” para los modelos que están cubiertos, los requisitos de pruebas de seguridad probablemente “no atrapará ningún sistema actualmente en el mercado.”
“Se trata principalmente de una acción de cara al futuro para la próxima generación de modelos”, dijo el funcionario.
“Esta orden ejecutiva representa una acción audaz, pero todavía necesitamos que el Congreso actúe”, dijo Biden el lunes.
El líder de la mayoría del Senado, el demócrata Charles Schumer, que asistió a la firma, y la directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, Arati Prabhakar, afirmaron la semana pasada en un evento del Washington Post Live que el Congreso también tiene un papel que desempeñar en la elaboración de legislación sobre IA.
“Probablemente hay un límite a lo que se puede hacer mediante una orden ejecutiva”, dijo Schumer. “Están preocupados, y están haciendo mucho reglamentariamente, pero todo el mundo admite que la única respuesta real es legislativa”.
Schumer lidera un grupo bipartidista de legisladores centrado en la elaboración de legislación sobre IA, pero es probable que les falten meses para presentar una propuesta. Se espera que esta semana acoja un par de Foros AI Insight, que han reunido a altos ejecutivos de la industria, líderes de la sociedad civil y destacados investigadores de IA para debatir sobre la necesidad de barreras federales para la IA, así como de una mayor financiación para la investigación. Biden dijo que planea reunirse con Schumer y otros legisladores para discutir la legislación de IA en la Casa Blanca el martes.
La representante Zoe Lofgren (California), principal demócrata de la Comisión de Ciencia, Espacio y Tecnología de la Cámara de Representantes, afirmó que el Congreso también tendrá que “financiar adecuadamente nuestras agencias científicas federales para que puedan llevar a cabo la importante investigación y desarrollo de estándares descritos en esta orden ejecutiva”.
La orden ejecutiva ordena a múltiples agencias gubernamentales que suavicen las barreras a la inmigración altamente cualificada, en medio de una batalla global por el talento en IA. Los ejecutivos de Silicon Valley llevan años presionando a Washington para que tome medidas que mejoren el proceso para los inmigrantes altamente cualificados, pero los expertos dicen que esperan que el Congreso siga el ejemplo de la administración Biden y considere nuevas leyes de inmigración en medio de su debate sobre la IA.
“Esta es quizá la medida más importante que impulsará la competitividad estadounidense”, afirmó Divyansh Kaushik, director asociado de tecnologías emergentes y seguridad nacional de la Federación de Científicos Estadounidenses.
El gobierno de Biden actúa al mismo tiempo que otros gobiernos de todo el mundo siguen adelante con sus esfuerzos por regular los sistemas avanzados de IA. Se espera que la Unión Europea llegue a un acuerdo a finales de este año sobre su Ley de IA, un amplio paquete que pretende proteger a los consumidores de las aplicaciones potencialmente peligrosas de la IA. Mientras tanto, China cuenta con una nueva normativa para los sistemas de IA generativa, que intenta impulsar el crecimiento de las herramientas de IA generativa del país al tiempo que mantiene el control sobre la información que los sistemas ponen a disposición del público.
El mismo día de la firma de la orden ejecutiva, el G-7 -que incluye a Estados Unidos, Francia, Alemania, Italia, Japón, Reino Unido y Canadá, además de la Unión Europea- anunció unas directrices voluntarias para las empresas, denominadas Código Internacional de Conducta para Organizaciones que Desarrollan Sistemas Avanzados de IA. Las directrices instan a las empresas a realizar evaluaciones periódicas de los riesgos de sus modelos y a prestar atención a los sistemas que puedan suponer una amenaza para los valores democráticos o la sociedad, como por ejemplo permitir la creación de armas biológicas o nucleares.
La Comisión Europea describió el código como un “documento vivo” que se actualizará para responder a la evolución de la tecnología.
Este aluvión de actividad ha hecho que algunos legisladores de Washington teman que Estados Unidos se haya quedado rezagado con respecto a otros países a la hora de establecer nuevas normas para esta tecnología.
La orden ejecutiva llega pocos días antes de que Harris promueva la visión de Estados Unidos sobre la regulación de la IA en la Cumbre Británica sobre IA, un evento de dos días que reunirá a líderes de todo el mundo para hablar de cómo responder a las aplicaciones más arriesgadas de la tecnología. La orden ejecutiva indica que el gobierno de Biden está adoptando un enfoque diferente al del Reino Unido, que hasta la fecha ha mostrado una postura poco agresiva hacia las empresas de IA y está centrando su cumbre en las amenazas a largo plazo de la IA, incluida la posibilidad de que la tecnología supere a los humanos.
“Pretendemos que las medidas que estamos adoptando a nivel nacional sirvan de modelo para la acción internacional”, dijo Harris antes de la firma del lunes.
Reggie Babin, abogado especializado en la regulación de la IA en Akin Gump Strauss Hauer & Feld, dijo que la orden ejecutiva envía una “señal al mundo” sobre las prioridades de EEUU para frenar la IA.
Hasta ahora, “mucha gente ha visto a los estadounidenses como, no quiero decir ausentes, pero ciertamente no han desempeñado un papel central en términos de establecer una visión clara de la política aplicable en la forma en que nuestra condición de líder mundial podría sugerir que deberíamos”, dijo Babin, quien anteriormente se desempeñó como jefe de asesores de Schumer.
El gobierno de Biden anunció por primera vez que estaba trabajando en la acción ejecutiva en julio, cuando consiguió que empresas como OpenAI y Google se comprometieran voluntariamente a probar sus modelos avanzados antes de hacerlos públicos y a compartir datos sobre la seguridad de sus sistemas.
© The Washington Post 2023