EÚ schválila reguláciu umelej inteligencie. Odborník vysvetľuje, ako sa to dotkne deepfakov alebo četbotov
➡️ Počúvanie podcastov Denníka N je najpohodlnejšie v aplikácii Denníka N. Zvuk Vám nepreruší, ani keď zmeníte stránku, a počúvať môžete aj bez pripojenia na internet. Sťahujte kliknutím sem.
Tento text načítal neurálny hlas. Najlepšie sa počúva v aplikácii Denník N, aj s možnosťou stiahnutia na počúvanie offline. Našli ste chybu vo výslovnosti? Dajte nám vedieť.
Minulý týždeň schválil Európsky parlament akt o umelej inteligencii (AI Act). Právny predpis – prvý svojho druhu na svete – určuje podmienky pre používanie systémov umelej inteligencie v EÚ.
O obsahu nariadenia sa Denník N rozprával s právnikom a výskumníkom Matúšom Mesarčíkom. „Ak by bol na námestí protest, nemal by sa tam nasadiť systém na rozpoznávanie tváre a nemalo by sa stať, že štát by na základe tohto systému začal identifikovať účastníkov a podľa toho ich kádroval,“ hovorí Mesarčík o jednej zo zakázaných praktík.
Zakazujú sa aj systémy, ktoré podprahovo ovplyvňujú ľudské vedomie alebo systém sociálneho skóringu, známy z Číny.
V rozhovore sa dočítate aj:
- ako akt upravuje veľké jazykové modely, četboty alebo „aplikácie na vyzliekanie“;
- ako zákonodarca reagoval na kritiku, že regulácia brzdí rozvoj a budeme zaostávať za svetovou konkurenciou;
- odkedy bude nariadenie účinné a aké kompetencie má novozriadený Európsky úrad pre umelú inteligenciu.
Prečo je vôbec potrebný akt o umelej inteligencii?
Pretože umelá inteligencia nie je technológia, ktorú možno použiť len pozitívnym spôsobom. Jednotlivcom aj ľudstvu prináša výhody, no nesie so sebou aj isté riziká – dlhodobé aj krátkodobé.
Aké sú dlhodobé a krátkodobé riziká?
Medzi dlhodobé patrí napríklad vplyv na trh práce alebo obava, že umelá inteligencia nás ovládne a niekedy v budúcnosti diametrálne zmení naše fungovanie. Ale akt o umelej inteligencii sa zameriava najmä na riešenie krátkodobých rizík, ktoré treba riešiť urgentne.
Týkajú sa potenciálnych skreslení umelej inteligencie, ľudského dohľadu, transparentnosti, prípadne obáv spojených s ochranou súkromia – systémy umelej inteligencie sa trénujú na obrovskom množstve dát, z nich niektoré sa môžu týkať našich osobných údajov alebo diel chránených autorským právom.
