- Objevil se případ telefonátu s AI hlasem Joea Bidena
- Falešný telefonát odrazoval potenciální voliče demokratů od primárek
- Kampaň Donalda Trumpa se od telefonátu distancovala
Úřad generálního prokurátora amerického státu New Hampshire vyšetřuje telefonní hovor, ve kterém se AI falešně vydávala za prezidenta Joea Bidena a vyzývala demokraty, aby nehlasovali v nadcházejících primárkách.
Nevolte, pomůžete tím Trumpovi
Telefonát s digitálně zmanipulovaným hlasem připomínajícím Bidenův hlas i styl mluvy klamavě tvrdí, že hlasování v primárkách pomáhá republikánům a potenciálnímu znovuzvolení Donalda Trumpa. Nabádá tak potenciální voliče k vynechání primárek a tím pádem de facto k „propadnutí“ jejich hlasu.
Vyšetřování bylo vyvoláno poté, co o podvodném telefonátu, který obsahoval vzkaz: „Hlasování toto úterý pouze umožňuje republikánům v jejich snaze znovu zvolit Donalda Trumpa,“ informovala stanice NBC News. Úřad generálního prokurátora varoval voliče, aby si tohoto obsahu nevšímali, a označil jej za nezákonný pokus narušit primárky a potlačit volební účast.
Útok na demokracii
V závěru hovoru je falešně uvedeno telefonní číslo patřící Kathy Sullivan, bývalé předsedkyni Demokratické strany v New Hampshire, která se zasazuje o písemnou kampaň pro Bidena. Sullivan pro NBC tvrdí, že je odhodlána zajistit, aby odpovědné osoby byly stíhány v maximální možné míře. „Je to útok na demokracii,“ řekla a naznačila, že to takhle nenechá a chce vědět, kdo za tím stojí, kdo to platí a kdo z toho benefituje. Kampaň Donalda Trumpa se na dotaz NBC od telefonátu distancovala.
Původ tzv. robocallů a rozsah jejich dosahu zůstávají nejasné, ačkoli telefonní čísla voličů jsou často dostupná prostřednictvím zprostředkovatelů dat. Praktické dopady něčeho takového bude nejspíše velice těžké opravdu důkladně analyzovat, stejně jako třeba u nás velice dobře známé řetězové emaily plné dezinformací.
Státní úředníci, včetně státního tajemníka Davida Scanlana a senátorky Maggie Hassan, tyto telefonáty odsoudili. Scanlan vyjádřil znepokojení nad dopadem umělé inteligence na kampaně, zatímco Hassan vyzvala voliče, aby se pokusům o potlačení volebního práva vzepřeli a Bidena podpořili.
Je to teprve začátek
Incident připomíná podobnou strategii rušení telefonních hovorů, která byla použita v roce 2002 v senátních volbách v New Hampshire a která vedla k odsouzení dvou republikánských funkcionářů.
Není to přitom tak dávno, co jsme psali o snaze společnosti OpenAI podnikat kroky k omezení či zákazu využívání jejích nástrojů pro manipulaci amerických prezidentských voleb. Jenže je dobré si to neustále připomínat: OpenAI je pouze jednou z několika velkých firem s vlastními AI nástroji a upřímná snaha jedné společnosti v širším měřítku nic moc neznamená.
Jaké nástroje pro napodobení Bidenova hlasu tady neznámý člověk použil, nevíme, nicméně aplikací pro vytvoření hlasu se na internetu povaluje vícero, a tak udělat si vlastního falešného Bidena je opravdu to nejmenší. Výsledek šetření, pokud se vůbec Sullivan někdy dobere zdroje telefonátu, asi hned tak nebude a mezitím si můžeme být prakticky jistí, že to u jediného telefonátu neskončí. Americké prezidentské volby budou gradovat v září, říjnu a na začátku listopadu a společně s tím budou nepochybně stoupat i případy zneužití nástrojů umělé inteligence s cílem ovlivnit výsledky voleb ve prospěch jedné či druhé strany.
