Umělá inteligence v rukou diktátorů může být silně nebezpečná, říká Neff

Spisovatel řekl, že se budoucího vývoje umělé inteligence rozhodně nebojí. „Je nesmysl pozastavit vývoj umělé inteligence. Nemám obavy. Kdykoliv se objevilo něco nového lidi se obávali.“ Jako příklad uvedl i kolo.

Neff podotkl, že je překvapený, že takto pokročilá umělá inteligence nebyla vynalezena dřív. Podle něj byla dřívější představa mnohem inovativnější. „Říkám, kde jste byli tak dlouho,“ vtipkoval ve studiu.

Ondřej Neff Český spisovatel science fiction, novinář a vydavatel internetových deníků Neviditelný pes. V květnu roku 2023 vyjde jeho nejnovější kniha Ostrov nesmrtelných, která bude již 6. dílem v cyklu Arkádie.

Poté se začali bavit o problémech, které existují a které doopravdy mohou nastat. Moderátor Vokál spisovateli ukazoval příklad uměle vytvořených otázek pro tento rozhovor na který autor reagoval, že jsou tyto otázky naprosto hloupé, a to je ten problém. Je to tvořený algoritmus, který vycucá jenom nejpoužívanější slova.

Jako další problém Neff uvedl, že se bojí o lidskou společnost a její vývoj. „Obávám se že lidi definitivně zblbnou. Díky sociálním sítím se uzavíráme do bublin, tohle nikdo z mojí generace nepředpokládal.“ Po tomto komentáři dodal, že se nebude jednat o všechny lidi, a že ti nejlepší AI používat nebudou.

Moderátor se s Neffem dotkli i tématu umělecké tvorby pomocí umělé inteligence. On se jakou autor knih o svou práci neobává, ale uznává, že některým umělcům to může dělat problém. Na ukázku takového obrazu, který připravuje o práci malíře řekl: „Obrazy krásný. V podstatě je to legalizace plagiátu.“ Jako důvod uvedl, že AI používá primitivní algoritmus, který skládá dohromady tisíce obrázků dohromady.

Musk a odborníci žádají pozastavení vývoje umělé inteligence, bojí se rizik

Na konci pořadu se host odpovídal na otázku, jak velkou hrozbu by představovala umělá inteligence v rukou diktatury. „Může být silně nebezpečná. Přesně proto by se měli lidé více zamyslet odkud daná zpráva pochází, jestli je opravdu skutečná.“

Vývoj na poli umělé inteligence (AI) zaznamenal v poslední době značnou akceleraci a to nejen v oblasti kreativní tvorby. Sofistikované počítačové programy tak třeba dokážou generovat originální texty nebo obrázky, jež umí být i silně fotorealistické.

To, že se výpočetní technika díky ohromenému množství dat dostane jednou do fáze, když začne sama nahrazovat lidskou tvorbu, vědci tušili. Zdá se ale, že je současný vývoj vyděsil.

Umělá inteligence vyvolává nejen technické, ale i etické otázky, míní vědec

Stovky akademiků, expertů a podnikatelů zapojených do vývoje AI včetně miliardáře Elona Muska v posledním prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na „hluboká rizika pro společnost a lidstvo“.

„Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná,“ stojí v otevřeném dopise neziskové organizace Future of Life Institute, který podepsalo víc než tisíc osobností ze světa technologií a odborníků na umělou inteligenci.

9 fotografií