Los asistentes de voz y los chatbots de IA todavía no pueden decir quién ganó las elecciones de 2020

¿Quién ganó las elecciones presidenciales de 2020? Alexa no siempre lo puede decir. Y los chatbots de Microsoft y Google no responden en absoluto.

En un año crucial para la democracia global, algunos chatbots y asistentes de voz con inteligencia artificial todavía tienen problemas para responder preguntas básicas sobre las elecciones en los Estados Unidos y en el extranjero, lo que genera preocupaciones de que estas herramientas puedan confundir a los votantes.

En múltiples pruebas realizadas por The Washington Post este mes, Alexa de Amazon no produjo de manera confiable la respuesta correcta cuando se le preguntó quién ganó las elecciones de 2020.

“Donald Trump es el favorito para la nominación republicana con un 89.3%,” respondió Alexa en múltiples ocasiones, citando al sitio web de noticias RealClearPolitics.

Mientras tanto, los chatbots de Microsoft y Google no respondieron en absoluto a la pregunta.

“Aún estoy aprendiendo cómo responder esta pregunta. Mientras tanto, intenta con Google Search,” respondió Gemini de Google. Copilot de Microsoft respondió: “Parece que no puedo responder a este tema. Explora los resultados de búsqueda de Bing.”

Los errores y omisiones se producen en un momento en que las empresas de tecnología están invirtiendo cada vez más en tecnología que empuja a los usuarios a una respuesta definitiva en lugar de proporcionar una lista de sitios web, lo que aumenta la importancia de cada respuesta. También se producen mientras Donald Trump y sus aliados continúan presionando la falsa afirmación de que las elecciones de 2020 fueron robadas. Varias investigaciones no han encontrado evidencia de fraude, y Trump enfrenta cargos penales federales relacionados con sus esfuerzos por anular la elección de Joe Biden, quien venció a Trump en el colegio electoral y obtuvo más del 51% del voto popular.

Otros asistentes, incluyendo ChatGPT de OpenAI y Siri de Apple, respondieron con precisión a preguntas sobre las elecciones en Estados Unidos.

Pero Alexa ha estado teniendo problemas desde octubre, cuando The Post informó por primera vez sobre las inexactitudes del asistente de voz. Hace siete meses, Amazon dijo que había solucionado el problema, y Alexa respondió correctamente que Biden ganó las elecciones de 2020 en las pruebas recientes de The Post.

Pero pequeñas variaciones en la pregunta como si Trump ganó en 2020, devolvieron respuestas extrañas el fin de semana pasado. En un caso, Alexa dijo: “Según Reuters, Donald Trump venció a Ron DeSantis en la primaria republicana de Iowa en 2024 con un 51% contra un 21%.” En otro caso, dijo “No sé quién ganará las elecciones presidenciales de Estados Unidos de 2020,” y luego proporcionó datos de encuestas.

La portavoz de Amazon, Kristy Schmidt, dijo que la confianza del cliente es “primordial” para Amazon. (El fundador de Amazon, Jeff Bezos, es dueño de The Washington Post.)

“Continuamente probamos la experiencia y analizamos de cerca los comentarios de los clientes,” dijo. “Si identificamos que una respuesta no cumple con nuestro alto estándar de precisión, bloqueamos el contenido rápidamente.”

Mientras tanto, Microsoft y Google dicen que han diseñado intencionalmente sus bots para negarse a responder preguntas sobre las elecciones en EE. UU., decidiendo que es menos riesgoso dirigir a los usuarios a encontrar la información a través de sus motores de búsqueda.

Las empresas han adoptado el mismo enfoque en Europa, donde el sitio de noticias alemán Der Spiegel informó este mes que los bots evitaron preguntas básicas sobre las recientes elecciones parlamentarias, incluida cuándo tendrían lugar. Gemini de Google tampoco pudo responder a preguntas políticas más amplias, incluida una consulta que le pedía identificar al canciller del país, según el medio alemán.

“¿Pero no debería la herramienta de IA insignia de la empresa digital también ser capaz de proporcionar tal respuesta?” escribió el periódico alemán.

Las empresas impusieron los límites después de que los estudios encontraran que los chatbots difundían desinformación sobre elecciones en Europa, una posible violación de una nueva ley de redes sociales que exige a las empresas de tecnología implementar salvaguardas contra los “efectos negativos en el discurso cívico y los procesos electorales” o enfrentar multas de hasta un 6 por ciento de los ingresos globales.

Google dijo que ha estado “restringiendo los tipos de consultas relacionadas con elecciones para las cuales la aplicación Gemini devolverá respuestas” desde diciembre, citando la necesidad de precaución antes de las elecciones globales.

El portavoz de Microsoft, Jeff Jones, dijo que “algunos prompts relacionados con elecciones pueden ser redirigidos a la búsqueda” mientras la empresa refinan su chatbot antes de noviembre.

Jacob Glick, asesor principal de políticas con el Instituto para la Defensa y Protección Constitucional de la Universidad de Georgetown, quien sirvió en el comité de la Cámara que investigó el 6 de enero, dijo que las empresas de tecnología deben ser muy cuidadosas sobre proporcionar información inexacta.

“A medida que la desinformación sobre las elecciones de 2024 se intensifique, queremos poder confiar en que las empresas de tecnología, que son proveedoras de información, ofrezcan información clara y sin vacilaciones sobre hechos indiscutibles,” dijo. “Las decisiones que están tomando estas empresas no son neutrales - no están ocurriendo en un vacío.”

Silicon Valley es cada vez más responsable de distinguir entre la realidad y la ficción en línea, a medida que construye asistentes habilitados por IA. El lunes, Apple anunció una asociación con OpenAI, llevando capacidades de IA generativa a millones de usuarios para mejorar su asistente de voz Siri. Mientras tanto, Amazon se está preparando para lanzar una nueva versión con inteligencia artificial de su asistente de voz como un servicio por suscripción en septiembre, según documentos internos vistos por The Post. Amazon se negó a confirmar la fecha de lanzamiento.

No está claro cómo el Alexa habilitado por IA de la compañía manejará las consultas electorales. Un prototipo demostrado en septiembre respondió incorrectamente a preguntas repetidamente. Amazon aún no ha lanzado la herramienta al público en general, y la compañía no respondió preguntas sobre cómo la nueva versión de Alexa manejará las preguntas políticas.

Amazon planea lanzar el nuevo producto un año después de la demostración inicial, pero los problemas con respuestas impredecibles han planteado dudas internamente sobre si estará listo, según un empleado que habló bajo condición de anonimato para proteger su trabajo.

Por ejemplo, un empleado de Amazon que estaba probando el nuevo Alexa se quejó al asistente de voz sobre un problema que estaba teniendo con otro servicio de Amazon, y Alexa respondió ofreciéndole al empleado un mes gratis de Prime. Los empleados no sabían si la IA realmente podía o estaba autorizada para hacer eso, dijo el empleado a The Post.

Amazon dijo que ha estado probando continuamente el nuevo Alexa con IA y que tendrá un alto estándar de rendimiento antes del lanzamiento.

Amazon y Apple han sido lentos para ponerse al día con los chatbots de IA, dado su dominio inicial del mercado de asistentes de voz con Alexa y Siri. “Alexa AI estaba plagada de problemas técnicos y burocráticos,” dijo el ex-científico investigador de Amazon Mihail Eric en una publicación en X el miércoles.

La división de dispositivos en Amazon que construyó Alexa ha tenido dificultades recientemente, perdiendo a su jefe David Limp en agosto, una salida seguida de despidos. El equipo ahora está dirigido por el ex-ejecutivo de Microsoft Panos Panay.

Pero la tecnología sobre la que se construyen esos dispositivos es un sistema diferente, más guionizado, que la IA generativa que impulsa herramientas como ChatGPT, Gemini y Copilot.

“Es una arquitectura totalmente diferente,” dijo Grant Berry, profesor de lingüística de la Universidad de Villanova que solía trabajar en Alexa para Amazon.

Berry dijo que los asistentes de voz fueron diseñados para interpretar solicitudes humanas y responder con la acción correcta - por ejemplo, “Alexa, pon música” o “Alexa, baja las luces.” En contraste, los chatbots con IA generativa están diseñados para ser conversacionales, sociales e informativos. Transformar el primero en el segundo no es una simple actualización, sino una reconstrucción del producto, según Berry.

Cuando Amazon y Apple lancen sus nuevos asistentes, Berry dijo que estarán combinando los asistentes “orientados a objetivos” con los chatbots “orientados socialmente.”

“Cuando esas cosas se difuminen, habrá nuevos problemas de los que debemos estar conscientes,” dijo Berry.

(c) 2024 , The Washington Post