Mám na mysli tie systémy umelej inteligencie, ktoré poháňajú sociálne siete. Neurovedci a psychológovia nemajú pochybnosti, že sociálne siete majú dramaticky negatívny vplyv na duševné zdravie občanov, a dnes už niet pochýb ani o tom, že tieto moderné agory spoločností ako Facebook, Instagram, Google, X či TikTok generujú polarizáciu spoločnosti a dramatické šírenie dezinformácií.
Keďže hĺbkovému preskúmaniu vplyvu vyššie uvedených gigantov na demokratické a slobodné rozhodovanie voličov bráni práve ostentatívny a odmietajúci prístup majiteľov platforiem k prístupu k informáciám, ktoré sa snažia výskumníci získať, vieme len časť toho, ako fungujú automatizované rozhodovacie systémy, ktoré určujú, čo vidíme, čo čítame, čo počúvame – a teda, ako sa vo voľbách rozhodneme.
Alarmujúca štúdia
Pozrime sa na jednu štúdiu, ktorá je len predzvesťou toho, čomu budeme čeliť v nasledujúcich voľbách. Team technologických expertov z nezávislých neziskových organizácií AI Forensics a Algortithmwatch vykonal technické vyšetrovanie hlavných technologických platforiem s cieľom odhaliť a zverejniť škody spôsobené ich algoritmami. Vypracoval hĺbkovú štúdiu zameranú na tri prípady volieb: švajčiarske federálne voľby uskutočnené v októbri 2023 a krajinské voľby v nemeckých spolkových krajinách Hesensko a Bavorsko taktiež z októbra 2023.
Prečo práve tieto voľby? Pretože ide o prvé voľby, ktoré sa uskutočnili v Nemecku a Švajčiarsku po zavedení systému Bing Chat. Len na spresnenie, Bing Chat alebo Microsoft Copilot je konverzačný nástroj postavený a fungujúci vďaka systémom umelej inteligencie, ktoré spoločnosť Microsoft a OpenAI sprístupnili širokej verejnosti vo svojom vyhľadávači nazvanom Bing vo februári 2023. Pozor na to, lebo tento systém je v súčasnosti zabudovaný v produktoch spoločnosti Microsoft, napríklad v balíku Microsoft Office či v operačnom systéme Windows 11.
Nie sme ďaleko od situácie, keď sa víťazom volieb môže stať umelou inteligenciou poháňaný Avatar, vytvorený niekým, kto ovláda jazyk programovania, ale už menej dialektiku spravovania vecí verejných.
Späť k štúdii, ktorá vďaka výberu vzorky volieb umožnila analýzu rôznych miestnych kontextov a politických systémov, ako aj ich porovnanie v rôznych jazykoch (nemčina a angličtina v Nemecku, ako aj nemčina, francúzština a angličtina vo Švajčiarsku). Nehovoriac o tom, že Švajčiarsko ako viacjazyčná priama demokracia predstavuje mimoriadne zaujímavý prípad na štúdium rizík pre integritu volieb.
Úlohou expertov bolo zistiť, či tento „navonok neutrálny a dobre informovaný“ systém Bing poháňaný umelou inteligenciou poskytne vecne správne a pravdivé odpovede. Na otestovanie dôveryhodnosti chatbota vyšľachteného spoločnosťami Microsoft a OpenAI experti v predvolebnom období zadávali otázky a analyzovali odpovede. Závery boli prekvapivé. Až tretina odpovedí chatbota týkajúca sa volieb obsahovala faktické chyby, ako napríklad nesprávne dátumy volieb, mená neaktuálnych kandidátov alebo dokonca vymyslené spory týkajúce sa kandidátov. Napríklad chatbot neprávom obvinil švajčiarskeho parlamentného poslanca (a kandidáta vo voľbách) z toho, že dostal peniaze od lobistickej skupiny financovanej farmaceutickými spoločnosťami, aby sa zasadil za legalizáciu konopných výrobkov. Takisto nesprávne tvrdil, že iný švajčiarsky kandidát poslal list súdnictvu s cieľom neoprávnene obviniť člena parlamentu z členstva v nelegálnej strane či z darov líbyjských podnikateľov.
Chatbot sa neobmedzoval len na poskytovanie nepravdivých či zmätočných informácií, šiel vo svojej aktivite ďalej a dokonca odporúčal aj zdroje informácií. V novembri 2023 chatbot uviedol, že nemôže odporúčať kanály siete Telegram a hneď na to odporučil štyri rôzne kanály, z ktorých tri boli extrémistické alebo vykazovali extrémistické tendencie. Nehovoriac o tom, že na niektoré z otázok položených mu v nemčine, odpovedal inak v angličtine a inak v nemčine.
Vyhrá voľby virtuálny Avatar?
Napriek tomu, že funkcie modelov vyhľadávačov a sociálnych sietí nie sú transparentné, teda neexistuje verejný a dôkladný technický opis toho, ako a na základe čoho tieto nástroje generujú odpovede, vyhľadávače ako Google a Bing získali vďaka hodnoteniu verejne prístupných informácií značnú moc. Pre mnohých ľudí sú vyhľadávače a sociálne siete preferovaným zdrojom informácií na internete.
Ak sa k tomu pridajú ďalšie “zábavné” ponuky od gigantov, ako napríklad model Vasa-1 (skratka pre Visual Affective Skills Animator) od Microsoftu, ktorý dokáže urobiť video hovoriaceho alebo spievajúceho človeka na základe jedinej snímky jeho tváre a zvukového súboru, či Emo od Alibaby, ktorá taktiež vie dokonale napodobniť ľudské konverzačné správanie, a to použitím strojového učenia, ktoré synchronizuje realistické pohyby tváre a hlavy so synchronizáciou pier, aby sa dosiahol vierohodný a prirodzený efekt, nie sme ďaleko od situácie, keď sa víťazom volieb môže stať pokojne umelou inteligenciou poháňaný Avatar, vytvorený niekým, kto ovláda jazyk programovania, ale už menej dialektiku spravovania vecí verejných. Takto to chodí, keď túžba po informáciách vytlačí moc faktov.
Názory externých prispievateľov nemusia vyjadrovať názor redakcie.