La inteligencia artificial plantea un nuevo desafío: distinguir lo verdadero de lo falso

Imágenes de un arresto de Donald Trump que nunca existió. El papa Francisco vestido como un rey del hip hop. Un dúo ficticio entre Drake y The Weeknd. Reportes que alertan sobre la estabilidad de 300 millones de trabajos. Son apenas algunas de las postales que dejó la irrupción masiva de la Inteligencia Artificial (IA) en el último mes. La pregunta es cuánto de esto se volverá relevante en nuestras vidas en el corto plazo.

Juan Graña fue periodista pero hoy es analista de datos. Durante cinco años lideró la unidad creada por Twitter para medir el impacto de la desinformación en la plataforma. En diálogo con Infobae, advirtió acerca de los nuevos desafíos que la IA traerá en el combate contra la desinformación y las dificultades para distinguir entre contenido real y sintético.

-Más de mil CEOs y académicos firmaron una carta solicitando frenar por seis meses el desarrollo de la IA porque su desarrollo sin control representa un “riesgo para la sociedad y la humanidad”. ¿Comparte la idea de que es un riesgo?

-Comparto que la IA sin control trae nuevos riesgos, pero no coincido con que su desarrollo tenga que ser frenado. Tampoco comparto el tono apocalíptico con el que se hacen muchas de las críticas. La IA artificial no va a dominar a la humanidad en unos años, como sugieren algunos. El verdadero problema, al menos hoy en día, son las consecuencias que va a traer a corto plazo. Principalmente dos: la perdida de trabajos y la creación de contenido artificial que va a erosionar aún más la idea de verdad.

La pérdida de trabajos es tal vez de la que más se habló hasta ahora. Un estudio de Goldman Sachs muestra que los trabajos que corren mayor riesgo son los trabajos de oficina. Estamos hablando de 300 millones de puestos. Va a haber casos donde el trabajo que hacían cinco personas ahora lo van a empezar a hacer una o dos con ayuda de la IA. Seguramente la IA va a generar trabajos que hoy en día no existen, pero la velocidad con la que se destruyan puestos va a ser más rápida con la que surjan los nuevos.

Te puede interesar: Yuval Noah Harari: “No sé si los humanos podrán sobrevivir a la Inteligencia Artificial”

El segundo problema más inmediato es la profundización acerca de la duda de lo que es verdad y qué no lo es. Muchos vieron la foto del papa Francisco vestido con una campera blanca . Ese es un ejemplo bastante inocente, pero hay otros más inquietantes. El fundador de Bellingcat, un colectivo de periodismo ciudadano, hace poco creó una imagen mostrando un supuesto arresto de Donald Trump. La imagen era falsa, pero muestra la facilidad con la que esas imágenes pueden ser creadas hoy en día sin necesidad de grandes conocimientos técnicos. Hasta hace pocos las imágenes creadas digitalmente podían ser reconocidas por errores en cómo ilustraban las orejas o las manos, pero eso ya está empezando a ser cosa del pasado. Incluso a los expertos les cuesta diferenciar entre imágenes artificiales y fotografías reales. Ni siquiera el jurado de concurso de fotografía de los premios Sony pudo distinguir entre las imágenes reales y las sintéticas.

-¿No hay posibilidades de que se creen herramientas para la detección de esas imágenes?

-Posibilidades hay, pero es difícil imaginar que todo el mundo va a andar con una app en el celular diferenciando entre fotografías reales y artificiales. Tal vez las grandes tecnologías incluyan el servicio dentro de sus propias plataformas. Pero aún si eso sucediera, el problema no termina con las imágenes. También vamos a tener audios artificiales que imitan la voz. Este mes un usuario de YouTube usó la IA para clonar las voces de Drake y The Weeknd y creó una supuesta colaboración entre ellos dos que en realidad nunca existió [NdR: se refiere a la canción “Heart on my sleeve”]. La mayoría de las plataformas decidió dar la canción de baja después de que la compañía discográfica presentara una queja por derechos de autor, pero la tecnología se está moviendo más rápido que las regulaciones.

-¿No ve posibilidades de que los gobiernos se pongan al día con esas regulaciones?

-Los esfuerzos regulatorios ya empezaron, pero las últimas dos décadas muestran que los gobiernos siempre corren de atrás con estas cuestiones, ya sea Napster, los datos personales en las redes sociales o las criptomonedas. Es el juego del gato y el ratón: cuando las regulaciones se pongan al día, seguramente los problemas ya van a ser otros.

Te puede interesar: ChatGPT empieza a convertirse en la nueva pluma del mundo político

-¿Nos enfrentamos un problema sin solución entonces?

-No. Soluciones va a haber, pero no va a haber una solución rápida ni absoluta. La solución seguramente va a ser una combinación de regulaciones estatales, restricciones autoimpuestas por las grandes tecnológicas por temor a juicios millionarios y la propia desconfianza de los usuarios, que van a empezar a sospechar del contenido que ven online.

-¿Esa desconfianza no es un arma de doble filo? También puede generar que se desconfíe de cosas verdaderas

-Sí. Es el problema de la duda acerca de lo que es verdad y lo que no lo es. Hace unos años surgió el concepto de fake news, que refería a la información deliberadamente falsa que era presentada como verdadera. Al principio, fake news se refería a un grupo más bien pequeño de casos, pero hoy el concepto es una de las herramientas preferidas de políticos y celebridades para evitar dar explicaciones. Muchos se limitan a descartar una información negativa simplemente diciendo que son fake news. Es posible que en un tiempo veamos algo similar con el contenido generado por IA. Si no tenemos cuidado, la sospecha permanente por los contenidos artificiales puede llevarnos al otro extremo. No seria raro que empecemos a descartar todo aquello que no encaje con nuestro modo de ver el mundo solo por pensar que se trata de contenido artificial.

Seguir leyendo: