Grandes empresas de tecnología se unen contra la IA engañosa en elecciones 2024

En un hito sin precedentes, 20 compañías líderes en tecnología, incluidas Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok y X, han unido fuerzas para combatir el uso engañoso de la inteligencia artificial (IA) frente a las elecciones globales de este año. Durante la Conferencia de Seguridad de Múnich celebrada el 16 de febrero de 2024, anunciaron el “Pacto Tecnológico contra el Uso Engañoso de la IA en las Elecciones de 2024″, donde se comprometieron a implementar tecnología para detectar y contrarrestar el contenido de IA perjudicial diseñado para engañar a los votantes. Este acuerdo se produce en un año decisivo, con más de cuatro mil millones de personas en más de 40 países ejerciendo su derecho al voto.

Los firmantes del acuerdo se comprometen a trabajar en conjunto para desarrollar herramientas que identifiquen y aborden la distribución en línea de contenido de IA dañino, iniciativas educativas para elevar la conciencia pública y mejorar la transparencia en sus operaciones. Además, se focalizan en principios fundamentales, tales como el rastreo del origen del contenido electoral engañoso y la sensibilización acerca de estos desafíos. “Las elecciones son el corazón de la democracia. Este Pacto Tecnológico es un paso crucial para avanzar en la integridad electoral, incrementar la resiliencia societal y establecer prácticas tecnológicas confiables,” afirmó el embajador Dr. Christoph Heusgen, presidente de la Conferencia de Seguridad de Múnich.

Dentro del contenido digital abordado por el pacto, se incluyen audios, videos e imágenes generados por IA que falsifican o alteran de manera engañosa la apariencia, voz o acciones de candidatos políticos, funcionarios electorales y otros actores clave en una elección democrática, o que proveen información falsa a los votantes sobre cuándo, dónde y cómo votar.

Los compromisos adquiridos por las compañías participantes buscan desarrollar e implementar tecnología para mitigar los riesgos relacionados con el contenido electoral engañoso generado por IA, incluyendo herramientas de código abierto cuando sea apropiado, evaluar modelos bajo el alcance de este pacto para entender los riesgos que puedan presentar, esforzarse por detectar la distribución de este contenido en sus plataformas y abordarlo de manera adecuada una vez detectado.

“Transparencia genera confianza,” dijo Dana Rao, Consejero General y Director de Confianza de Adobe. Esto resalta la importancia de construir infraestructura que ofrezca contexto sobre el contenido que los consumidores ven en línea. “Es un año electoral pivotal para más de 4 mil millones de votantes a nivel global y la seguridad y la confianza son esenciales para el éxito de elecciones y campañas en todo el mundo,” agregó David Zapolsky, Vicepresidente Senior de Política Pública Global y Asesor General en Amazon, enfatizando el compromiso de Amazon con la defensa de la democracia y cómo este pacto complementa sus esfuerzos existentes para desarrollar y desplegar nuevas tecnologías de IA que sean confiables, y seguras.

Kent Walker, Presidente de Asuntos Globales en Google, destacó el compromiso de largo plazo de Google con la integridad electoral, y cómo el acuerdo refleja un compromiso de toda la industria contra la desinformación electoral generada por IA que erosiona la confianza. Christina Montgomery, Vicepresidenta y Principal Oficial de Privacidad y Confianza en IBM, resaltó la necesidad de medidas concretas y cooperativas para proteger a las personas y sociedades del contenido engañoso amplificado por la IA en este excepcional año electoral.

La iniciativa también será apoyada por esfuerzos para promover la conciencia pública, la alfabetización mediática y la resiliencia de toda la sociedad frente al conteo engañoso. Brad Smith, Vicepresidente y Presidente de Microsoft, señaló, “A medida que la sociedad adopta los beneficios de la IA, tenemos la responsabilidad de asegurarnos de que estas herramientas no se conviertan en armas en las elecciones.” Este acuerdo representa un esfuerzo unificador entre líderes tecnológicos globales para abordar de forma proactiva los desafíos que plantea el uso malintencionado de la inteligencia artificial en procesos democráticos fundamentales.

“Nos comprometemos a proteger la integridad de las elecciones aplicando políticas que impidan los abusos y mejorando la transparencia en torno a los contenidos generados por IA”, afirmó Anna Makanju, Vicepresidenta Presidenta de Asuntos Globales de OpenAI. “Estamos deseando trabajar con socios de la industria, líderes de la sociedad civil y gobiernos de todo el mundo para ayudar a salvaguardar las elecciones del el uso engañoso de la IA”.

Por su parte, Linda Yaccarino, consejera delegada de X, ha declarado: “En los procesos democráticos de todo el mundo, todos los ciudadanos y empresas tienen la responsabilidad de salvaguardar unas elecciones libres y justas. empresa tiene la responsabilidad de salvaguardar unas elecciones libres y justas, por eso debemos entender los riesgos que los contenidos de IA podrían tener en el proceso. X se dedica a desempeñar su papel colaborando con sus homólogos para combatir las amenazas de la IA, protegiendo al mismo tiempo la libertad de expresión y maximizando la transparencia”.

Esta iniciativa abarca desde la creación de dicho contenido en plataformas de gran escala y modelos fundamentales de código abierto, hasta su distribución en plataformas sociales o de publicación de gran envergadura. Todo ello, alineado con las políticas y prácticas propias de los participantes, según los compromisos expresados en el acuerdo.