BezpečnosťSpravodajstvo

S internetovým „hejtom“ sa už tak často nestretneme: Slovenský model TrollWall s pomocou AI schováva vulgárne a nenávistné komentáre

Slovenská technologická spoločnosť prišla s modelom TrollWall, ktorý sa už uchytil v praxi, okrem iného aj na Facebooku a Instagrame.

Človek nemusí stráviť na sociálnej sieti veľa času a stretne sa s nenávistnými komentármi užívateľov, ktoré sa neboja osočovať hocičo bez ohľadu na to, či ich slová v sebe ukrývajú aspoň štipku pravdy. Niekedy hovoríme aj o takzvaných internetových „trolloch“, ktorí majú najväčšiu radosť z toho, ak sa im podarí vyvolať na internete hádku, alebo sa niekoho dotknúť.

Slovenská technologická spoločnosť TrollWall vyvinula jedinečné softvérové riešenie na báze umelej inteligencie, ktoré skrýva nenávistné komentáre na sociálnych sieťach a momentálne funguje na platformách Facebook a Instagram. Ich jazykový model rozumie slovenčine a češtine, no postupne pribúdajú aj nové jazyky a funkcionality. Moderátori online diskusií však postupne získavajú nové možnosti ako riadiť diskusie na internete. Uplatnenie našiel jazykový model TrollWall používajú pri správe sociálnych sietí v kancelárii českého prezidenta Petra Pavla, Denníku N či desiatkach mimovládnych a neziskových organizácií.

Odoberajte Vosveteit.sk cez Telegram a prihláste sa k odberu správ

„Veľkú pozornosť sme venovali etickým aspektom trénovania modelu. Záleží nám na tom, aby umelá inteligencia vyhodnocovala komentáre v čo najväčšej možnej miere nezaujato a zohľadňovala rôzne perspektívy. Počas jej vývoja neustále prebiehala manuálna kontrola našimi expertami s cieľom minimalizovať nespravodlivé hodnotenia. Model sa neustále spresňuje, pretože sa učí na dátach z praxe,“ vysvetlil Filip Stryčko, šéf vývoja umelej inteligencie v TrollWall.

Vývojári trénovali model na viac ako štvrť milióna komentárov zo sociálnych médií. Na analýze sa zároveň podieľalo niekoľko nezávislých expertov. Cieľom umelej inteligencie podľa vývojárov nemá byť potláčanie slobody slova. Obmedzovať má vulgárny a inak nevhodný obsah, ktorý znižuje úroveň celého portálu a nijak obohacujúco neprispieva k online diskusii.

Model TrollWall dokáže detegovať vulgárny obsah vrátane variácie známych nadávok či kontextuálny „hejt“. Ak niekto napíše „ty si potkan“, umelá inteligencia komentár schová. Ak niekto napíše „uhryzol ma potkan“, tento komentár nechá na pokoji. Administrátor diskusie má zároveň plnú kontrolu nad príspevkami, ktoré systém vyhodnotil ako nevhodné a schoval. Po vyhodnotení situácie môže komentár jednoducho odkryť.

Model TrollWall zasadí ranu nenávistným komentárom
Zdroj: TrollWall

TrollWall v praxi

Funkcia modelu TrollWall môže zdvihnúť obočie a niekto si môže myslieť, že chcú platformy obmedzovať to, kto pod príspevkom dostane slovo a kto nie. Treba mať však na pamäti, že každý významnejší profil má svojho moderátora, ktorý dozerá na to, aby mali komentáre pod príspevkom nejakú úroveň.

Častokrát sa pod politickými príspevkami môžeme stretnúť s vyjadreniami, ktoré bez najmenšieho uváženia osočujú danú osobu, alebo sa jej v tých horších prípadoch vyhrážajú. Takéto nekonštruktívne, nenávistné komentáre by musel z platformy odstrániť samotný moderátor. Nie je možné, aby sa všetkým vulgárnym príspevkom venoval hneď. V tomto smere systém TrollWall uľahčí moderátorom prácu. Zároveň poskytne bežným užívateľom bezpečnejší priestor, kde sa budú môcť slobodne vyjadriť.

V budúcnosti chcú vývojári zapracovať do modelu aj pokročilejšie funkcie, napríklad automatické odpovedanie na najčastejšie kladené otázky. Zároveň chcú vývojári bojovať aj proti šíreniu dezinformácií a hoaxov.

„Už dnes pracuje TrollWall s databázou konšpirátorisk, no v odhaľovaní a potláčaní dezinformácií máme väčšie ambícje,“ uviedol Tomáš Halász, CEO TrollWall.

TrollWall na slovenskom Facebooku skontroloval už viac ako 2-milióny komentárov a skryl vyše 300-tisíc nenávistných príspevkov.

Prihláste sa k odberu správ z Vosveteit.sk cez Google správy
Tagy
Zobraziť komentáre
Close
Close