Een straatgoochelaar uit New Orleans, Paul Carpenter, blijkt de maker van een controversiële robocall die gebruik maakte van een door AI gegenereerde imitatie van de stem van president Joe Biden. De oproep, die gericht was op kiezers in New Hampshire, drong er bij de Democraten op aan zich te onthouden van stemming in de voorverkiezingen. Dit heeft geleid tot een strafrechtelijk onderzoek door de procureur-generaal van New Hampshire en heeft de aandacht getrokken van federale wetshandhavingsfunctionarissen.
Carpenter maakte zijn betrokkenheid bekend in een interview met CNN. Hij verklaarde dat hij was ingehuurd door een politiek adviseur, Steve Kramer, die werkte voor de campagne van Minnesota Rep. Dean Phillips. Carpenter verstrekte bewijsmateriaal, waaronder sms-berichten, om zijn verhaal te bevestigen. De campagne van Kramer en Phillips heeft tot nu toe geen commentaar gegeven aan CNN over hun vermeende betrokkenheid bij de robocall. De woordvoerder van Phillips heeft de actie echter aan de kaak gesteld en afstand genomen van de campagne van Kramer.
De goochelaar, die beweert geen eerder politiek engagement te hebben gehad, uitte zijn spijt over de potentiële impact van zijn werk op het kiezersgedrag. Carpenter beschreef het proces van het creëren van de AI-stem als relatief eenvoudig en snel, met behulp van de AI-spraakservice ElevenLabs. Hij benadrukte dat hij niet op de hoogte was van het beoogde gebruik van de audio en ging ervan uit dat het voor Bidens eigen campagne was. De betrokkenheid van Carpenter doet zorgen rijzen over het gemak en het potentiële misbruik van AI-technologie in politieke campagnes, met name bij het creëren van deepfake-inhoud die kiezers kan misleiden of manipuleren.
