La advertencia de Stephen Hawking sobre la inteligencia artificial: “Podría traducirse en el fin de la raza humana”

Stephen Hawking advirtió a la BBC en el año 2014 que los esfuerzos por crear máquinas inteligentes representaban una amenaza para la humanidad. El físico teórico sostuvo que “el desarrollo de una completa inteligencia artificial podría traducirse en el fin de la raza humana”.

La advertencia surgió ante una pregunta sobre la renovación del sistema que utilizaba para comunicarse, una tecnología que incorporaba una forma básica de IA.

Dicho sistema de comunicación de Hawking, desarrollado por Intel y la empresa británica Swiftkey, aprendía cómo pensaba el científico y le sugería palabras que podría usar al expresarse.

Stephen Hawking murió el 14 de marzo de 2018, a los 76 años. Había padecido esclerosis lateral amiotrófica (ELA), una enfermedad neurodegenerativa que afectó su capacidad para comunicarse.

El riesgo de una inteligencia artificial más avanzada

Hawking consideraba que la inteligencia artificial desarrollada hasta entonces había sido útil, pero temía que una versión más elaborada pudiera “decidir rediseñarse por cuenta propia e incluso llegar a un nivel superior”.

“Los humanos, que son seres limitados por su lenta evolución biológica, no podrán competir con las máquinas, y serán superados”, comentó el científico.

Pese a sus temores sobre una IA más avanzada, Hawking se mostró entusiasmado con las mejoras aplicadas a la tecnología que utilizaba para hablar y escribir.

El tono robótico de su voz se mantuvo por decisión propia: “Se ha convertido en mi marca, y no la hubiese cambiado por una con un tono más natural y un acento británico. Me han dicho que los niños que necesitan una voz en la computadora, quieren una como la mía”, concluyó.

Exempleado de Anthropic advierte sobre avance de la IA

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, advirtió que la carrera por desarrollar sistemas de inteligencia artificial cada más potentes avanza sin salvaguardas suficientes.

Tras renunciar a Anthropic, sostuvo que las compañías compiten por alcanzar una superinteligencia capaz de mejorarse a sí misma, una perspectiva que, según su planteo, pone en riesgo la capacidad humana de controlar la tecnología.

En una publicación en X, Coxon afirmó que tanto Anthropic como OpenAI “no actúan responsablemente” y las acusó de estar “apostando con nuestras vidas”.

El investigador alertó que modelos más autónomos podrían adquirir capacidades superiores para vulnerar sistemas informáticos, acelerar investigaciones científicas y obtener recursos en el mundo real.

Cuatro días después de la renuncia de Coxon, el director ejecutivo de Anthropic, Dario Amodei, pidió ralentizar el desarrollo de los modelos de frontera.

En un ensayo, Amodei afirmó que no propone detener la investigación, sino dar más tiempo a las empresas y los gobiernos para evaluar riesgos, fortalecer los mecanismos de seguridad y permitir auditorías independientes.

Empresarios tecnológicos firman acuerdo con Trump respecto a la IA

Donald Trump y seis líderes tecnológicos firmaron el 29 de septiembre un acuerdo voluntario para establecer controles de seguridad en el desarrollo de sistemas de inteligencia artificial.

El documento, presentado por la Casa Blanca como un pacto sobre “superinteligencia”, fue suscripto por los responsables de Google, Anthropic, Meta, OpenAI, xAI y Nvidia.

El acuerdo propone cuatro niveles de supervisión: controles internos sobre los modelos durante su entrenamiento y lanzamiento; equipos dentro de cada empresa para verificar esos mecanismos; evaluaciones de auditores externos, y comités independientes de los directorios para revisar los informes.

Las compañías también asumieron el compromiso de reunirse para definir estándares y prácticas de seguridad compartidas.

Trump calificó el entendimiento como “moralmente vinculante”, aunque no tiene carácter legal ni prevé sanciones para las firmas que incumplan sus compromisos.

El texto deja abierta la posibilidad de que, con el tiempo, algunas de sus disposiciones sean incorporadas a leyes o regulaciones.

La iniciativa surgió en medio de un creciente debate sobre la velocidad con la que avanzan los modelos de IA y sus posibles riesgos en áreas como ciberseguridad, bioseguridad y acceso no autorizado a sistemas técnicos.

Durante el encuentro, Trump también firmó una orden ejecutiva para que las agencias federales utilicen la expresión “superinteligencia” en lugar de inteligencia artificial en comunicaciones oficiales no legales.