Sam Altman y Bill Gates alertan sobre los peligros y efectos de la IA: es urgente una regulación global

Sus declaraciones hicieron parte de un especial de Oprah Winfrey, periodista estadounidense, donde también estuvieron invitados el influencer tecnológico Marques Brownlee y el director del FBI, Christopher Wray, quienes hablaron sobre los peligros más inmediatos de la IA, como la manipulación de la información y los deepfakes.

Sam Altman, CEO de OpenAI, ofreció una visión ambivalente sobre el potencial de la IA. El directivo describió los avances que han logrado los sistemas de inteligencia artificial, incluyendo modelos como ChatGPT y el recién lanzado o1, argumentando que estos sistemas no solo predicen secuencias de datos, sino que aprenden los conceptos dentro de la información con la que se entrenan.

“Le mostramos al sistema mil palabras en una secuencia y le pedimos que prediga lo que viene después. El sistema aprende a predecir, y en ese proceso, aprende los conceptos subyacentes”, afirmó Altman.

A pesar de lo que algunos consideran una sobrevaloración de las capacidades de la IA, el empresario hizo énfasis en la necesidad de implementar pruebas de seguridad y regulaciones para evitar que la IA se convierta en una amenaza para la sociedad. Comparó la regulación de la inteligencia artificial con las estrictas pruebas de seguridad en la industria aeronáutica o la farmacéutica.

“Una de las primeras cosas que debemos hacer —y esto ya está ocurriendo— es que el gobierno comience a realizar pruebas de seguridad en estos sistemas, como lo hacemos con los aviones o los medicamentos nuevos”, dijo.

Altman también reconoció la creciente responsabilidad que recae sobre su empresa y sobre él como líder del desarrollo de IA. Cuando Oprah le preguntó directamente por qué la gente debería confiar en él, el CEO de OpenAI evadió la pregunta, indicando que la confianza es algo que su compañía intentará ganarse con el tiempo.

Esta respuesta fue destacada por Winfrey cuando mencionó un titular que lo calificaba como “el hombre más poderoso y peligroso del mundo”. Altman negó esa descripción, pero aceptó que siente una gran responsabilidad de guiar el desarrollo de la IA en una dirección positiva para la humanidad.

Por su parte, Bill Gates ofreció una visión más optimista sobre el impacto de la IA, especialmente en los campos de la medicina y la educación. El cofundador de Microsoft se mostró confiado en que la inteligencia artificial puede ser una herramienta poderosa para mejorar la interacción entre médicos y pacientes.

“La IA es como una tercera persona sentada en (una cita médica), haciendo una transcripción y sugiriendo una receta”, explicó. Según su visión, la tecnología permitirá a los médicos centrarse más en la atención al paciente en lugar de en tareas administrativas.

En cuanto a la educación, destacó el potencial de la IA como tutor personal. Imaginó un futuro en el que la IA está siempre disponible y es capaz de adaptarse a los niveles de conocimiento de cada estudiante, ayudando a personalizar el proceso de aprendizaje.

Sin embargo, algunas escuelas han sido cautelosas con el uso de la IA en las aulas. El verano pasado, muchas instituciones prohibieron ChatGPT debido a preocupaciones sobre el plagio y la desinformación, aunque algunas han suavizado sus restricciones tras ver el valor potencial de la IA en ciertos contextos educativos.

El especial también se adentró en los riesgos más inmediatos de la IA, como los deepfakes. Marques Brownlee mostró ejemplos de cómo el generador de videos con IA de OpenAI, Sora, ha mejorado enormemente en pocos meses. Estos avances fueron inquietantes para Oprah, quien calificó los videos como “realmente realistas”.

Esto abrió la puerta para una conversación con el director del FBI, Christopher Wray, quien relató su propia experiencia viendo un deepfake en el que aparecía diciendo cosas que nunca había dicho.

Wray advirtió sobre los usos criminales de esta tecnología, en particular el aumento de la sextorsión, un crimen que ha visto un aumento del 178% entre 2022 y 2023, impulsado en parte por herramientas de IA. Según el director del FBI, “los malos actores” también están utilizando la IA para difundir desinformación antes de las elecciones presidenciales de 2024 en los EE. UU., lo que subraya la urgencia de abordar estos desafíos de manera colectiva.