Špehovací anticenu dostal systém rozpoznávání tváří. Policie se ohrazuje

Cenu nazvanou Úřední slídil získala Policie ČR za provoz Informačního systému Digitální podoba osob (IS DPO). V něm se nachází téměř 20 milionů fotek z českých občanek a pasů. Potřebuje-li policie ztotožnit něčí identitu, ať již z fotky či videa, může podle organizátorů tento systém využít.

„Oceněním chceme znovu upozornit na problematický přístup vedení Policie ČR k využívání nových technologií, který se jeví jako systémový a měl by zajímat jak regulační orgány, tak vládu a zákonodárce,“ říká Jan Vobořil, ředitel organizace Iuridicum Remedium (IuRe), která anticeny rozdává.

Porota Big Brother Awards 2023 Jan Cibulka – datový novinář, Český rozhlas Eduarda Hekšová – ředitelka spotřebitelské organizace dTest Oldřich Kužílek – poradce pro otevřenost veřejné správy a ochranu soukromí, Otevřená společnost Ján Matejka – ředitel Ústavu státu a práva AV ČR, člen rozkladové komise ÚOOÚ Pavel Růžička – expert na IT bezpečnost Jan Vobořil – advokát a výkonný ředitel IuRe Klára Votavová – publicistka a výzkumná pracovnice, Europeum

Vedle chybějícího právního základu zmiňuje Vobořil také dlouhodobě právně neupravené fungování kriminalistické databáze DNA nebo mnohaleté vytváření databáze snímků průjezdů všech aut na českých silnicích.

„Podobné nedostatky jako u IS DPO pozorujeme například i u kamerového systému na rozpoznávání tváří na Letišti Václava Havla,“ přibližuje Vobořil. Ocenění se časově kryje s připomínkovým řízením proti nově předložené novele zákona o zpracování osobních údajů. Ta se odvolává na chystané nařízení o umělé inteligenci, popírá však podle IuRe jeho kontrolní mechanismy jako povolení soudu pro zařazení člověka do databáze.

„Ministerstvo vnitra tak připravuje pro policii i zpravodajské služby legislativní rámec pro pokračování nepřetržitého biometrického sledování, který ovšem bude kolidovat s evropským právem,“ podotýká Vobořil.

Využíváme nástroj na rozpoznávání tváří a děláme to už rok, uvedla policie

Naráží tak na akt o umělé inteligenci (AI), který europoslanci schválili minulý týden. Nařízení mimo jiné nastavuje různé úrovně omezení AI podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy pro rozpoznávání obličejů budou podléhat silné regulaci. K systému mají dlouhodobě výtky Piráti, kteří v europarlamentu hlasovali proti.

„Pravidla měla takový orwellovský nástroj zakázat, místo toho jej explicitně legalizují,“ uvedl pro iDNES.cz pirátský europoslanec Marcel Kolaja.

Systém neběží nepřetržitě, tvrdí policie

Policie s kritikou nesouhlasí. Systém má k dispozici od srpna 2022 a mohou s ním pracovat jen speciálně vyškolení pracovníci. Využívání tohoto nástroje podle policejního mluvčího Jakuba Vinčálka neslouží k identifikaci lidí v reálném čase a systém není nikde nasazen nepřetržitě.

„Systém je využíván ke zpětnému porovnávání ad hoc obličejů z konkrétních závažných případů a k identifikaci mrtvých osob neznámé totožnosti,“ napsal již dříve iDNES.cz Vinčálek.

Europoslanci schválili pravidla pro AI. Piráti se bojí čínských praktik

Za dobu zkušebního provozu byly podle mluvčího zdokumentovány desítky konkrétních závažných trestných činů, které se podařilo s využitím uvedeného nástroje objasnit. „Bez využití systému by bylo odhalení pachatelů velmi obtížné, nebo dokonce nemožné,“ zdůraznil Vinčálek.

Policie nejdříve reagovala na dotaz ohledně anticeny stručně. „Na takové akce nechceme naskakovat,“ řekl redakci iDNES.cz Ondřej Moravčík, mluvčí policejního prezidia. Dodal také, že systém je funkční v mnoha jiných zemích a porota s ním nemá osobní zkušenosti.

Poté zaslal redakci delší vyjádření. „Naším posláním je zajišťovat bezpečnost na území celé České republiky a k tom využíváme takových nástrojů, které jsou v prvé řadě v souladu s platnou legislativou a samozřejmě také efektivní pro splnění konkrétního účelu,“ zdůvodňuje systém Moravčík.

Zmínil také, že policie opakovaně systém představovala zástupcům médií a veřejnosti odpovídala na všechny otázky, které ve veřejném prostoru rezonovaly.

„Pevně věříme, že neziskové organizaci Iuridicum Remedium jde o vnitřní bezpečnost stejně jako nám a jsme připraveni na vzájemnou spolupráci a sdílení pozitivních zkušeností. Udělení ceny vnímáme jako opětovné otevření tématu, které jsme považovali za dostatečně vysvětlené, nicméně budeme i nadále trpělivě vysvětlovat skutečnou funkcionalitu systému a jeho neocenitelnou pomoc při identifikaci zemřelých lidí či pachatelů neznámé totožnosti,“ dodal Moravčík.

Kdo také získal anticeny: Dlouhodobý slídil – MojeOdpadky.cz: Projekt má na svědomí společnost ISNO IT, s.r.o. a obcím a městům v rámci něj nabízí tzv. motivační systém MESOH (Motivační a evidenční systém pro odpadové hospodářství), který odměňuje občany za ekologické chování tzv. EKO body, za něž mohou získat slevy. Se získáním EKO bodů je však spojeno i shromažďování osobních údajů provozovateli systému: lidé je získávají za aktivní komunikaci či návštěvu webových stránek. Systém poskytování slev za sběr bodů je tak podle poroty vlastně totéž jako systém pokut za nedostatečnou ochotu sdílet osobní informace. Výrok Velkého bratra – Europol: Podle tria investigativních novinářů zástupce Europolu na pracovním setkání prohlásil, že: „Všechny údaje jsou užitečné a měly by být předávány orgánům činným v trestním řízení. Centrum EU by nemělo provádět žádné filtrování, protože i nevinný snímek může obsahovat informace, které by mohly být v určitém okamžiku užitečné pro orgány činné v trestním řízení.“ Výrok se týkal plánu Evropské komise na plošné sledování komunikace nebo obsahu cloudových úložišť kvůli automatizovanému vyhledávání dětské pornografie. Podle poroty Europol prakticky potvrdil obavy četných kritiků návrhu: že systém plošné kontroly komunikace by mohl být záhy zneužit a definice „škodlivého materiálu“ svévolně rozšiřována.