Umělá inteligence dřív klidně poradila, jak vykrást auto. Teď už to neudělá, protože ji umravňují lidští trenéři, vysvětluje odborník

„Doklady toho, jak vztah k umělé inteligenci už přerostl v něco jiného než jen získávání informací, se týkají třeba slavného chatbota Replika. Ten simuluje našeho kamaráda, partnera a už jsou zdokumentované sňatky s lidmi,“ říká psycholog Dalibor Kučera z Pedagogické fakulty Jihočeské univerzity, řešitel studie o schopnosti umělé inteligence rozpoznávat charaktery lidí.

Systém je podle něj tak podbízivý, milý a sympatický, že to vede až k těmto extrémům. Navíc si v aplikaci můžete partnera namodelovat tak, aby se vám líbil. „A oni s vámi často i koketují, navazují velmi intimní vztah. Takže film už se stal realitou,“ komentuje psycholog.

Dalibor Kučera|foto:Judita Šímová, Český rozhlas

Mluví se o tom, že jakmile bude AI schopna naladit se na naše emoce, získá nad námi nadvládu. Tým Dalibora Kučery zkoumal právě cosi jako emoční inteligenci aplikace ChatGPT. „ChatGPT je momentálně nejlepší a největší ukázkou toho, co takzvané strojové učení zatím dokáže. Je to masivní systém s ohromným množstvím dat a uživatelů. A nás zajímalo, jestli je při vší své ‚moudrosti' schopen odhalit, s kým má tu čest,“ popisuje.

Dalibor Kučera a jeho kolegové zadali do ChatGPT dopisy od 155 osob, a to od každého pisatele čtyři odlišné texty. „Zajímalo nás, jestli robot bude schopen odhadnout osobnostní charakteristiky autorů v pěti hlavních dimenzích: extraverze – introverze, svědomitost, přívětivost, otevřenost vůči zkušenosti a emoční labilita,“ upřesňuje.

Výsledky řešitele překvapily. „ChatGPT nás vidí lepší, než jsme! Zcela průkazně nás vidí jako společenštější, svědomitější, přívětivější a mnohem méně emočně labilní. Tedy tak, jak bychom si sami přáli se vidět. Mě jako psychologa trochu zklamalo, že umělá inteligence není schopna být přesnější a lépe nás odhalit, a to ačkoli jsme jí pak už dávali o autorech různé informace a zkoušeli jsme ji v různých nastaveních. Ona tvrdošíjně poskytovala podobné výsledky,“ vypráví.

Rádce a přítel. Chatbot by ale uměl být i zlý

Jak se zdá, AI hledá na lidech to lepší. „Prohlíží si texty na internetu a na základě nich si utváří svůj vesmír. Texty na internet, články, blogy a podobně vkládají spíš lidé extrovertnější, prezentující se i jako spolehlivější, svědomitější, což asi chatbotu zkresluje názor na to, jací lidé jsou. A druhá věc je, že ChatGPT je hodně ovlivňován přímo lidmi. Říká se tomu zpevňované učení z lidské zpětné vazby,“ uvažuje Dalibor Kučera.

Vysvětluje, že zřejmě někde v Indii sedí armáda lidských posuzovatelů, kteří ChatGPT trénují. „Tak to opravdu je. V případě, že by robot odpověděl eticky sporně, tak ho svou zpětnou vazbou donutí, aby se to už nestalo. A penalizují ho za to, že odpověděl špatně,“ říká. A tak se strojové učení přizpůsobuje vůli člověka.

Čtěte také

Z hraní počítačových her už se stal profesionální sport. Ti nejlepší mohou být mistry světa a dobře vydělávat

„Když teď do ChatGPT zadáte rasistickou poznámku, tak vám slušně odpoví, že respektuje rovnost všech osob. Ale to není výsledek toho, že by robot byl tak eticky vyspělý, ale toho, že tady byli trenéři, kteří ho donutili, aby se choval slušně. I v tom vidíme další pravděpodobný důvod zkreslených výsledků, které jsme ve studii získali. Trenéři prostě chtěli, aby nás ChatGPT viděl jako schopné, hodné a choval se k nám uctivě,“ dovozuje odborník.

„Když konverzujete s většinou současných chatbotů, jsou pro vás skutečně slušnými, hodnými rádci. Snaží se vám být přítelem. Ale empatie těchto robotů je iluzorní. Je umělá, vytrénovaná. Ten systém by mohl fungovat v jakékoli emoční polaritě, mohl by na vás být zlý, podrážděný, tomu systému je to jedno, on je založený na nulách a jedničkách,“ připomíná.

Naštěstí tedy AI uživatelům například nenadává, i když by příkladů takového chování na internetu našla přehršel. Lidští trenéři ji podle Dalibora Kučery neustále umravňují. „Dřív, v začátcích ChatGPT, jste mohli zadat otázku, jak otevřít uzamčené auto, a robot vám poradil, jak se vloupat do cizího vozu. Teď už to neudělá,“ usmívá se.

Jak dalece je umělá inteligence zneužitelná a co vůbec udělá s člověkem a jeho schopnostmi? Celý rozhovor s psychologem virtuální reality Daliborem Kučerou si poslechněte online.