Úsměv! Sleduje vás AI aneb co přinese novela zákona o zpracování osobních údajů

Policie České republiky tento systém umělé inteligence (dále jen „AI“), který je schopen biometrické identifikace osob na dálku v reálném čase, využívá již několik let. Nyní ovšem dochází k úpravě jeho regulace. Na unijní úrovni se otázkou umělé inteligence a nastavení vůbec prvních komplexních právních pravidel jejího používání zabývá Akt o umělé inteligenci platný od letošního léta. Ten ve svých ustanoveních pamatuje i na systémy fungující tak jako chytré kamery na pražském letišti.

Nyní se do hry dostává též vnitrostátní úprava ve formě novelizace zákona č. 273/2008 Sb., o Policii České republiky, a některých dalších zákonů, včetně zákona č. 110/2019 Sb., o zpracování osobních údajů. Návrh novely schválila vláda a nyní je v Poslanecké sněmovně, takže její znění není finální a může doznat určitých změn.

Na to, jaké úpravy ohledně systémů umělé inteligence novela přináší, se podíváme v tomto článku.

Systémy biometrické identifikace na dálku v reálném čase ve veřejně přístupných prostorech

Pro snadnější pochopení jednotlivých institutů používaných v textu článku si napřed dovolím krátké vysvětlení jednotlivých pojmů, jak je definuje Akt o umělé inteligenci.

Biometrické údaje jsou osobní údaje vyplývající z konkrétního technického zpracování, týkající se tělesných či fyziologických znaků nebo znaků chování fyzické osoby, například zobrazení obličeje nebo daktyloskopické údaje.

Biometrická identifikace představuje automatizované rozpoznávání fyzických, fyziologických, behaviorálních či psychických lidských znaků za účelem zjištění totožnosti fyzické osoby porovnáním biometrických údajů této osoby s biometrickými údaji jednotlivců, jež jsou uloženy v databázi. Může se jednat o automatizované rozpoznávání tvaru obličeje, pohybu očí, tvaru těla, hlasu, chůze nebo třeba držení těla či srdeční frekvence.

Systém biometrické identifikace na dálku je systém AI pro účely identifikace fyzických osob na dálku na základě porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi, aniž by uživatel systému AI předem věděl, zda bude daná osoba přítomna a zda ji bude možné identifikovat. Obvykle se tyto systémy využívají ke snímání více osob nebo jejich chování současně bez aktivního zapojení těchto osob.

Systém biometrické identifikace na dálku v reálném časepředstavuje systém, kdy zachycení biometrických údajů, porovnání a identifikace probíhají bez zbytečného odkladu a zahrnují nejen okamžitou identifikaci, ale také omezená krátká zpoždění, jejichž cílem je zabránit obcházení pravidel.

Veřejně přístupným prostorem je jakékoli fyzické místo ve veřejném nebo soukromém vlastnictví přístupné neurčenému počtu fyzických osob bez ohledu na to, zda se mohou uplatňovat určité podmínky přístupu, a bez ohledu na možná omezení kapacity, např. letiště, obchody, ulice, restaurace, banky, zastávky autobusu, divadla, náměstí.

Akt o umělé inteligenci mj. vyjmenovává zakázané postupy v oblasti AI. Mezi zakázané postupy patří i systémy biometrické identifikace na dálku v reálném čase ve veřejně přístupných prostorech (dále jen „systém biometrické identifikace“). Důvodem je to, že využívání takového systému obzvláště zasahuje do práv a svobod dotčených osob, neboť může ovlivnit soukromý život velké části populace. Systém biometrické identifikace může v lidech vyvolávat pocit neustálého sledování a nepřímo je odrazovat od využívání svobody shromažďování a dalších základních práv. Z toho důvodu používání takovýchto systémů AI Akt o umělé inteligenci, až na určité, přesně specifikované výjimky, zakazuje.

Takovou výjimku představuje situace, kdy je systém používán pro účely vymáhání práva, pokud je to nezbytně nutné a zároveň v míře nezbytně nutné pro jeden z těchto cílů:

• cílené vyhledávání obětí únosů, obchodování s lidmi nebo sexuální vykořisťování lidí, jakož i vyhledávání pohřešovaných osob,

• prevence konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti osob nebo skutečného a bezprostředního či předvídatelného teroristického útoku,

• lokalizace a identifikace osoby podezřelé ze spáchání trestného činu za účelem trestního vyšetřování, stíhání nebo výkonu trestu za trestné činy uvedeného v příloze II Aktu o umělé inteligenci.

Při používání systémů biometrické identifikace je navíc vždy důležité zohlednit povahu situace a též důsledky užití tohoto systému pro práva a svobody všech dotčených osob a záruky a podmínky zajištěné při tomto použití. Použití systému biometrické identifikace by mělo být nasazeno jen k potvrzení totožnosti konkrétně cílené osoby s ohledem na časové, místní a osobní omezení.

Pravidla pro nasazení biometrických kamer s umělou inteligencí

Pokud se donucovaní orgán (např. Policie České republiky) rozhodne pro využívání systému biometrické identifikace, měl by před jeho zavedením provést posouzení dopadů vysoce rizikových systémů AI na základní práva (dle čl. 27 Aktu o umělé inteligenci) a zaregistrovat systém v databázi EU obsahující vysoce rizikové systémy AI.

Každé použití biometrického systému by též mělo podléhat výslovnému a konkrétnímu povolení justičního orgánu nebo nezávislého správního orgánu členského státu, jehož rozhodnutí je závazné. Povolení k používání tohoto systému by mělo být získáno zásadně před jeho použitím (výjimku může tvořit řádně odůvodněný naléhavý případ) na základě odůvodněné žádosti donucovacího orgánu.

Zároveň by měl být o každém využití tohoto systému informován vnitrostátní orgán ochrany osobních údajů (v případě České republiky tedy Úřad pro ochranu osobních údajů), který pak o této skutečnosti předkládá Evropské komisi pravidelnou zprávu.

Členské státy mohou v souladu s úpravou uvedenou v Aktu o umělé inteligenci stanovit ve své zemi podrobnější pravidla pro použití systému biometrické identifikace.

Zpracování biometrických údajů prostřednictvím systému biometrické identifikace pro účely vymáhání práva musí též splňovat všechny požadavky stanovené ve směrnici (EU) 2016/680 tzv. trestněprávní směrnice.

Vzhledem k možnostem technických nepřesností systému AI pamatuje Akt o umělé inteligenci také na situace, kdy by došlo k mylné identifikaci osoby, která se v referenční databázi nenachází. Pro tyto případy uvádí, že pouze na základě systému biometrické identifikace nelze vydat rozhodnutí, které má pro konkrétní osobu nepříznivé právní účinky.

Jak to vidí české právo?

Reakcí na novou evropskou právní úpravu umělé inteligence je právě i novela zákona č. 110/2019 Sb. Zákona, který do českého právního řádu implementoval směrnici Evropského Parlamentu a Rady (EU) 2016/680 neboli tzv. trestněprávní směrnici a který do velké míry upřesňuje zpracování osobních údajů v bezpečnostních agendách. 

Novela zavádí v novém § 39a institut izolovaného systému. Jaký systém to má být? Podle předkladatele (Ministerstva vnitra) se jedná o systém umělé inteligence pro vzdálenou biometrickou identifikaci fyzických osob v reálném čase používaný spravujícím orgánem (Policie České republiky) v prostoru, který musí splňovat 2 podmínky:

• má stálý územní rozsah,

• je omezen na objekty a prostory, které jsou součástí mezinárodního letiště.

Tento systém porovnává na dálku získané biometrické údaje z kamerového systému s biometrickými údaji fyzických osob obsaženými v referenční databázi. Pokračování naleznete na doméně GDPR.cz