Un mago residente en Nueva Orleans, Paul Carpenter, admitió haber sido contratado para crear una llamada automática falsa que suplantaba la voz del presidente Joe Biden. Este intrigante suceso ha desencadenado una investigación policial en varios estados y ha generado preocupaciones sobre el uso de la inteligencia artificial para manipular el proceso electoral.
Según los informes obtenidos por el medio estadounidense NBC News, Carpenter fue contratado por Steve Kramer, un consultor demócrata con una amplia experiencia en campañas políticas, para utilizar inteligencia artificial y crear una imitación convincente de la voz de Biden. En sus propias palabras, Carpenter afirmó: “Fui contratado en enero por Steve Kramer para usar software de inteligencia artificial y hacer la imitación de la voz de Biden”. Asimismo, explicó: “Creé el audio utilizado en la llamada automática. No lo distribuí”.
El proceso de creación del audio falso, según lo relatado por Carpenter, fue sorprendentemente sencillo y económico. Con un costo de tan solo un dólar y menos de 20 minutos de trabajo, Carpenter logró producir el audio utilizado en la llamada automática. A cambio, recibió un pago de 150 dólares, que le fue transferido a través de la plataforma de pagos Venmo, según los registros compartidos por el propio Carpenter.
Este incidente ha suscitado una intensa atención por parte de las autoridades policiales de New Hampshire y federales, quienes han expresado su preocupación por la posibilidad de que la llamada automática violara las leyes estatales de supresión de votantes y las leyes federales de telecomunicaciones. Aunque aún no se ha confirmado la identidad de los responsables, se espera que la investigación arroje luz sobre el alcance y las implicaciones de este caso.
La campaña presidencial de Dean Phillips ha reaccionado con indignación ante las revelaciones sobre el presunto papel de Steve Kramer en este asunto. Phillips, quien previamente había contratado los servicios de Kramer, ha denunciado enérgicamente las acciones del consultor demócrata y ha expresado su disposición a emprender acciones legales si se confirman las acusaciones. En palabras de Katie Dolan, secretaria de prensa de la campaña de Phillips: “Estamos asqueados de enterarnos de que el Sr. Kramer está presuntamente detrás de esta llamada, y si las acusaciones son ciertas, denunciamos absolutamente sus acciones”.
El uso de la inteligencia artificial en la política plantea desafíos significativos en términos de ética y transparencia. Este incidente subraya la necesidad de implementar medidas más estrictas para regular el uso de la tecnología en el proceso electoral y proteger la integridad de la democracia.
A medida que la investigación sobre este caso continúa, se espera que surjan más detalles y se tomen medidas adicionales para garantizar la integridad y transparencia de las elecciones en el futuro próximo.
Cómo se hizo el deepfake
El proceso de creación del deepfake utilizado en la llamada automática de Biden revela una serie de pasos ingeniosos y preocupantes que demuestran la facilidad con la que la tecnología puede ser utilizada para manipular y engañar a las personas.
Carpenter utilizó una combinación de técnicas y herramientas de inteligencia artificial para llevar a cabo su tarea. Según sus declaraciones a NBC News, Carpenter empleó la voz de un reportero como sustituto para la imitación de la voz de Biden, evitando así violar los acuerdos de términos de servicio de la plataforma de IA contra el uso no autorizado de la voz de una persona. Este enfoque muestra un nivel de astucia por parte de Carpenter para sortear posibles restricciones legales y éticas en el uso de la tecnología.
El uso de Eleven Labs, un generador de voz de texto a voz de IA, fue crucial en el proceso de creación del deepfake. Esta herramienta, identificada por expertos externos y un análisis de NBC News, permitió a Carpenter generar una imitación convincente de la voz de Biden. Además, Carpenter demostró el uso de otras herramientas de IA para agregar el audio generado a un video de una persona hablando y animar sus labios para que coincidan, lo que aumenta la autenticidad del contenido creado.
La decisión de Carpenter de compartir detalles sobre el proceso de creación del deepfake con NBC News sugiere una sensación de remordimiento y responsabilidad por su participación en el incidente. Su colaboración con los medios de comunicación y la revelación de información detallada sobre el proceso técnico subrayan la importancia de abordar los desafíos éticos y legales relacionados con el uso de la inteligencia artificial para la manipulación de contenidos.
La defensa legal de Carpenter y su argumento de que no tenía conocimiento previo sobre cómo se utilizaría el contenido generado por IA ponen de relieve la necesidad de una mayor conciencia y regulación en torno al uso de esta tecnología en contextos políticos y electorales.
En cuanto a las implicaciones de la investigación en curso, las autoridades han puesto el foco en una empresa de telemarketing de Texas que distribuyó las llamadas automáticas. Se están examinando posibles violaciones de leyes federales y estatales relacionadas con la protección al consumidor, la identificación del llamante y la prevención del fraude y abuso en el telemarketing. La magnitud del alcance de las llamadas falsas y su intento evidente de engañar a los votantes plantea preocupaciones sobre la integridad y transparencia del proceso electoral, lo que resalta la urgencia de abordar las amenazas emergentes asociadas con el uso de la tecnología en la política.
Por su parte, Kramer, presidente de su propia firma, ha trabajado como especialista en incentivar la votación en numerosas campañas políticas, mayormente demócratas, a lo largo de las últimas dos décadas.
Sin embargo, la carrera de Kramer no ha estado exenta de controversias. En el año 2020, su participación en la campaña presidencial independiente de Ye, el rapero anteriormente conocido como Kanye West, generó polémica. A pesar de sus esfuerzos por ayudar a Ye con el acceso a la boleta en varios estados, la campaña enfrentó problemas significativos, incluidos desafíos para aparecer en la boleta en tres estados y críticas por los comentarios controvertidos del candidato sobre la esclavitud.
Además, en el año 2021, Kramer se vio envuelto en una demanda presentada por Sara Tirschwell, una candidata republicana que buscaba postularse para alcalde de la ciudad de Nueva York. Tirschwell acusó a Kramer de sabotear su campaña al entregar firmas inválidas, lo que le impidió aparecer en la boleta electoral. Aunque Kramer ha negado estas acusaciones, el caso sigue pendiente y ha contribuido a su reputación controvertida.
Otro episodio destacado en la carrera de Kramer fue su participación en la campaña de Nomiki Konst en 2019 para el defensor público de la ciudad de Nueva York. Esta campaña fue objeto de una queja formal presentada ante la agencia de finanzas de campaña de la ciudad debido a pagos sospechosos a una firma de Louisiana asociada con Kramer. Aunque Konst ha argumentado que la queja tenía motivaciones políticas, este incidente ha contribuido a la percepción de Kramer como una figura polémica en el ámbito político.
En resumen, Steve Kramer es una figura influyente en el mundo de la política estadounidense, con una larga trayectoria en campañas demócratas y una reputación marcada por la controversia. Su participación en campañas de alto perfil y su historial de enfrentamientos legales han contribuido a su imagen pública, que es objeto de escrutinio por parte de la opinión pública y los medios de comunicación.