Před mikrofonem: Přináším AI do veřejné správy a samosprávy

Jak se z vedoucího právního oddělení Krajského úřadu Středočeského krajestane tak velký fanoušek umělé inteligence? Co bylo tím prvním impulsem nebo „aha momentem“, kdy jsi si řekl, že by AI skutečně mohla být něčím přelomovým?

Petr Kohout: Já mám obecně k technologiím a novinkám blízko, to se netýká jen AI nástrojů. Vlnu zájmu o umělou inteligenci sleduji od konce roku 2022, kdy OpenAI zpřístupnilo veřejně ChatGPT, ale aktivně jsem AI začal využívat až o trochu později. Řekl bych, že s ohledem na možnosti, které umělá inteligence přináší, a jistě ještě přinese, jsem spíše takovým umírněným fanouškem. Pochopitelně si uvědomuji i možná rizika, dopad na životní prostředí a třeba i právní problematiku spojenou s AI. To, že AI bude něco velkého, mi ale došlo v podstatě hned, jak se začaly objevovat první články o schopnostech tohoto nástroje. 

Co si myslíš o dnes běžně používaných AI nástrojích, jsou skutečně „uměle inteligentní“, nebo je to často spíš lepší vyhledavač či automatizovaný kompilátor dalších zdrojů?

Petr Kohout: Nevidím v tom ani jedno. Je potřeba otevřeně pracovat s tím, že jde v zásadě o statistické nástroje – což nelze vykládat tak, že jsou horší, než kdyby byly „inteligentní“. Otázkou totiž je, co samotná inteligence znamená. On i lidský mozek funguje na statistických principech. Neurověda zná koncept tzv. „bayesovského mozku“, který pomocí statistických principů vysvětluje mozkové kognitivní funkce. Do jisté míry, tedy podobně jako AI, se i lidský mozek učí na základě pravděpodobnostního odhadu výsledků na základě předchozích zkušeností.

Stejné je to i s tou kompilací informací z dalších zdrojů. Kolik skutečně nových a přelomových myšlenek sami máme? A kolik z našich myšlenek je jen kompilací toho, co jsme někde slyšeli nebo viděli?

Řekl bych, že hlavní rozdíl v pocitu, který člověk při práci s AI má, vyplývá právě z přístupu konkrétního člověka. Někdo skutečně AI nástroje používá jako lepší vyhledavač, a někdo naopak jako „samostatného a myslícího společníka“.

Kdybys měl vybrat jeden AI nástroj, který máš nejraději, nebo který používáš nejčastěji, který by to byl a proč?

Petr Kohout: Jako právník pracuji zejména s textem. Proto je pro mě nejužitečnějším a nejčastěji používaným nástrojem Perplexity. Jde o AI chatbota, který má přístup k internetu a v odpovědích poctivě odkazuje na zdroje, ze kterých čerpá, takže mohu snáze kontrolovat výstupy. Má také tzv. copilota, který mi pomáhá s formulací dotazů, a navíc mohu přepínat mezi různými jazykovými modely, podle toho, co konkrétně potřebuji s nástrojem řešit.

Samozřejmě často zkouším i celou řadu dalších nástrojů, některé mi vydrží, některé zase rychle opouštím. Mezi ty zajímavé, se kterými pracuji dlouhodobě, bych zařadil ještě aplikaci Copilot pro Android, která umí fungovat jako chytrý asistent v telefonu. A také fireflies, což je, mimo jiné, chytrý záznamník schůzek, online meetingů a osobní zapisovatel.

Jakou vidíš možnost uplatnění AI ve veřejném sektoru? Kromě pomoci občanům a úředníkům s  běžnými agendami mě třeba napadá kontrola nově navrhovaných právních předpisů a jejich souladu s již existující legislativou. Možností je ale určitě víc.

Petr Kohout: Možností vidím celou řadu. Za základ, který nemusí být ani složitě implementovatelný, ani drahý, by měl a mohl sloužit AI chatbot na stránkách úřadu. Chatbot, který mi na dotaz konkrétně odpoví. Pokud se třeba zeptám „Jak se přihlásit ke svozu odpadu?“, tak by mi chatbot měl říci, kde na webu najdu konkrétní informace, kdo tuto záležitost řeší, kdy má úřední hodiny, že si třeba můžu online zarezervovat termín schůzky a kde, a jaké dokumenty budu potřebovat, a rovnou i kde je stáhnu. Pro úřad je to ve výsledku úspora protelefonovaného času úředníků, kteří pravidelně odpovídají stále na ty samé dotazy.

Stejně tak AI může pomáhat s přípravou a kontrolou smluv, ulehčit oběh účetních dokladů, může sloužit v chytré podatelně nebo hledat procesy, které by se daly zjednodušit. Těch variant je hodně, byť některé z nich už vyžadují komplexní, a tedy i poměrně drahá, řešení.

Je důležité pamatovat na to, že veřejný sektor by měl hospodařit odpovědně. Takže i když nasazování AI může vypadat lákavě, je třeba vždy přemýšlet, co to konkrétně přinese – úsporu času, nákladů atp., obecně řešit návratnost investice. Ono totiž těch skutečně použitelných a ověřených use casů zatím moc není. Rozhodně nemá smysl implementovat AI tam, kde svou práci zastane třeba jednoduchý robot v rámci automatizace procesů.

Zapojuješ se do odborných i politických diskusí o AI, podílíš se na přípravě Národní strategie umělé inteligence (NAIS). V jaké formě to probíhá, budeme mít národní strategii, jak AI využít či využívat? Existuje věcná a politická shoda na hlavních principech, které by se v NAIS měly odrazit?

Petr Kohout: Musím uvést na pravou míru – z úcty ke kolegům, kteří skutečně NAIS připravují a pracují na ní -  že já se účastnil pouze několika schůzek, kde jsme diskutovali dílčí části NAIS, konkrétně AI ve veřejné správě a AI ve veřejných službách. Tyto schůzky svolalo Ministerstvo průmyslu a obchodu, které má přípravu strategie na starosti, aby získalo vstupy od odborníků z řady dalších oblastí a zajistilo pluralitu názorů při přípravě strategie.

Myslím, že shoda na hlavních principech při přípravě národní strategie je. Obecně bych je charakterizoval jako podpora AI, ve smyslu podpory jejího zavádění a výzkumu, a opatrnost při jejím využití.

K tomu ale chci dodat, že já jsem ke strategii v tomto odvětví poměrně rezervovaný. Strategie vnímám jako nějaký dlouhodobý záměr vhodný pro stabilní odvětví. Je dobré mít strategii rozvoje dopravní obslužnosti, třeba. Stanovit si cíle pro rok 2030 a třeba i 2050. Jak chceme mít naprojektovanou dálniční a železniční síť. Oproti tomu AI je extrémně dynamická oblast. Loni v prosinci jsem neměl představu, jak daleko budou třeba dnes video generátory. Takže je těžké vytvořit dokument, který nebude už při vydání zastaralý, a zároveň to nebudou jen vzletné neuchopitelné pokyny.

Jak je tvůj entuziasmus a pozitivní vztah k AI přijímán ve státní správě a samosprávě, která má v řadě oblastí spíše konzervativní přístup?

Petr Kohout: Ten konzervativní přístup je, bohužel, nastaven společností. Lidé jsou mimořádně kritičtí vůči chybám veřejné správy, a v ní je tak, pochopitelně, extrémní averze k riziku. Málokdo je proto ochoten ve větší míře zkoušet nové věci, protože hrozí riziko výdajů, které nebudou mít žádný pozitivní dopad. Nicméně já se setkávám většinou s velice pozitivním přístupem.

V srpnu loňského roku jsme spolu s Jakubem Dohnalem, řídícím partnerem advokátní kanceláře Arrows, vydali e-book „Nástroje AI ve veřejné správě“, jehož cílem bylo edukovat veřejnou správu. Z toho, co víme, byla publikace poměrně nadšeně přijata, kdy jen z oficiálních zdrojů byla stažena více než tisíckrát. I na jejím základě jsem měl například sérii školení AI pro Ministerstvo práce a sociálních věcí, protože je tato problematika zajímala, a přišlo jim dobré, aby školení dělal někdo, kdo má interní zkušenost s veřejnou správou. Stejně tak Středočeský kraj – můj zaměstnavatel, se k otázce AI staví pozitivně, byť opatrně, což je pochopitelné.

Na základě ohlasů na náš e-book teď s Jakubem Dohnalem připravujeme jeho druhé vydání. V něm bychom chtěli reagovat jak na rychlý vývoj v této oblasti, tak i sdílet naše praktické zkušenosti.

Využití AI může mít mnoho přínosů, zjednodušením úředních agend a opakujících se činností počínaje, přes ochranu proti finanční kriminalitě a pomocí s vývojem či testováním kódu konče. Ale souvisí  s ní určitě i řada rizik a nejasností, od autorskoprávní ochrany zdrojů použitých k testování, přes možnost úniku interních informací při využívání běžně dostupných AI nástrojů, až po riziko diskriminace (AI bias) nebo naopak zneužití AI k podvodům, třeba phishingovým útokům. Které z těchto hrozeb se ty obáváš nejvíce? V pracovní i soukromé rovině?

Petr Kohout: Já se nejvíce obávám rizika nedostatečných znalostí, nedostatečné informovanosti. Umělá inteligence, jako nástroj, může zásadním způsobem proměnit svět kyberútoků. A také ho mění, stejně jako mění celý svět. Na druhou stranu, kyberkriminalita není nic nového. Když člověk občas čte o jednotlivých případech, tak zjišťuje, že nešlo o nic sofistikovaného. Lidé, kteří posílají statisíce naprosto neznámému člověku, který tvrdí, že je má rád a že si je vezme, lidé, kteří posílají peníze někomu cizímu, kdo tvrdí, že díky němu zbohatnou. Na to nepotřebujete AI.

Samozřejmě, díky AI budou vznikat dechberoucí podvody, které se bude těžké bránit. Myslím, že většina škod vzniká spíše nízkou informovaností obětí takových podvodů. Celkově mi vadí, když je AI spojována s kriminalitou, nelegálním jednáním. Vždyť je to stále jen nástroj, je to stejné, jako kdybychom mluvili o tom, že nás ohrožují e-maily. Vždycky za tím (zatím) stojí člověk.

Jak se dá těmto rizikům nejlépe čelit? Jak nám pomůže AI Act, který už zřejmě bude brzy přijatý? Proti přijetí regulace využívání umělé inteligence se někdy, podobně jako dříve u GDPR, argumentuje tím, že znemožní využívání a rozvoj AI nástrojů v Evropské unii. Předpokládám, že tento názor nesdílíš, že?

Petr Kohout: AI Act, bohužel, vnímám jako poměrně problematický dokument. Jak z pohledu jeho striktnosti, tak i kvůli tomu, že obsahuje řadu nedořešených právních otázek. Např. otázku teritoriality autorského práva. AI Act požaduje po každém poskytovateli, který uvede AI systém na jednotný trh, aby dodržoval unijní autorské právo bez ohledu na právní systém a jeho podmínky, v němž byl AI nástroj trénován. Zatím není vůbec jasné, jak se takové ustanovení bude vymáhat a zda to bude vůbec možné.

Nařízení o AI je také málo proinovační. Věnuje se spíše regulaci, a nikoli podpoře umělé inteligence. Na druhou stranu, odmítám kvůli řadě problematických ustanovení nevidět i přínosy AI Actu. Jednak skončí jisté právní vakuum kolem AI, a také vítám to, že AI Act chrání řadu práv, která si Evropa tvrdě vybojovala. Nejsem zastáncem výměny občanských práv za pokrok.

Ano, i podle mě by nařízení o AI potřebovalo pár úprav. Měly by se vyjasnit některé otázky, líbilo by se mi alespoň drobné rozvolnění některých podmínek, a líbilo by se mi, kdyby bylo nařízení stejně podporující, jako regulační.

Nové služby či produkty s AI se objevují každý den, stejně jako informace o nových hrozbách, ale i přínosech spojených s umělou inteligencí. To nejzajímavější už od podzimu loňského roku také shrnuješ ve svém týdenním newsletteru. Dokážeš vysledovat nějaké trendy? Třeba oblasti nebo sektory, ve kterých se AI rozvíjí a je nasazována více než v jiných, nebo s lepšími výsledky?

Petr Kohout: Můj zpravodAI, který vychází na LinkedInu, vznikl čistě jako takový můj zápisník. Prostě jsem začal nejdříve jako prosté příspěvky shrnovat, co mě za ten týden v oblasti AI zaujalo. Pak, protože si příspěvky našly dost čtenářů, jsem začal pravidelně v neděli publikovat newsletter. Nicméně těch informací je tolik, že absolutně nemám přehled o všem, co se stane. Vždycky vybírám to, co mě samotného zajímá, a co podle mě může rozproudit debatu o AI.

Ale i z toho, co sám zachytím, je vidět, že AI se poměrně rychle zabydlela ve zdravotnictví. Výzkumné týmy s AI dosahují mimořádných výsledků, zejména v oblasti výzkumu a testování farmak, a také v oblasti detekce a predikce rakoviny

Dalším polem, kde se AI prosadila, je vojenství. Nepíše se o tom tak často, ale zejména na Ukrajině se testuje řada nových technologií, ať již AI řízené komunikační systémy dronů, ale také AI identifikace a detekce cílů. Pro mě je třeba zajímavé sledovat i závody o nejlepší velký jazykový model, který probíhá mezi OpenAI, Googlem, Anthropicem a Mistralem. 

A na závěr mám jednu trochu věšteckou otázku: Představ si Českou republiku za 5 let. Jaké činnosti, které dnes vyřizujeme s člověkem, lidskou obsluhou, budeme podle tebe vyřizovat s umělou inteligencí?

Petr Kohout: Takovou jasnou představu bych měl opravdu rád. Ale možná právě proto, že se o AI zajímám dost intenzivně, je mi jasné, že se nemůžu trefit. Je dost dobře možné, že za pět let tady už budeme mít generální umělou inteligenci, která bude dalším revolučním krokem na naší cestě k budoucnosti. Nicméně se domnívám, že v běžném životě budeme AI řešit mnohem méně – možná vůbec. Stane se nedílnou a běžnou součástí našeho světa. Bude integrovaná v aplikacích a nástrojích. Nebude nás zajímat, jestli nějaký program nebo přístroj má nebo nemá AI, prostě budeme požadovat konkrétní funkce. 

Stejně jako teď neřešíme, na jaké technologii je postaven spamový filtr – víme, co chceme, čistou poštovní schránku. Jjak to technologie dělá, to nás většinou nezajímá. Vlastně nečekám žádnou zlomovou revoluci, ale postupnou změnu. A možná naopak, za pět let se ohlédneme zpět, a budeme se divit, jak jsme v roce 2024 fungovali.

Petr Kohout je vedoucím právního oddělení Krajského úřadu Středočeského kraje. V rámci své právní praxe se mimo jiné zajímá i o legal tech, v poslední době zejména o umělou inteligenci, obzvláště v kontextu možností a potřeby její regulace a etického využití.  Petr Kohout je odborníkem na možnosti využití AI ve veřejné správě, kde hledá inovativní způsoby, jak zlepšit efektivitu a transparentnost úředních procesů a postupů. Je spoluautorem publikace Nástroje AI ve veřejné správě.

Rozhovor byl převzat z domény gdpr.cz.