Před mikrofonem: Naše AI je lepší než 9 z 10 studentů práv

Jste spoluzakladatelem Lawrence AI, nástroje využívajícího umělou inteligenci na řešení právních otázek a zpracování právních rešerší. Proč jste si s kolegy vybrali zrovna zaměření na právo?

Jakub Charvát (Lawrence AI): Dříve jsme byli součástí i jiných technologických startupů, ale až v právních technologiích jsme se skutečně našli. Když jsme Lawrence ještě na Právnické fakultě Univerzity Karlovy zakládali, jednak nám bylo právo přirozeně blízké a jednak jsme si s postupným rozšiřováním AI uvědomili, že právo lze vnímat jako jakýsi soubor dat, a praktikování práva tedy jako jakousi práci s daty. A jestli v něčem AI opravdu exceluje, je to právě práce s daty. Navíc, vzhledem k našemu backgroundu, jsme se dokázali poměrně dobře do našich uživatelů vžít a přijít s něčím, čeho si skutečně cení. 

Lawrence AI je schopen vypořádat se s úkolem z různých oblastí práva. Na co se vás uživatelé ptají nejčastěji, do kterých částí práva jejich otázky typicky směřují? A o které oblasti práva je naopak zatím menší zájem a čím si to vysvětlujete?

Jakub Charvát (Lawrence AI): Vezmu to trochu více zeširoka. V právu nemůžeme spoléhat jen na „znalosti“ jazykových modelů, nejsou totiž trénovány ani na aktuálních, ani na úplných právních datech. Obvykle se jejich „znalosti“ vztahují k určitému období v minulosti, a z podstaty věci tak nemohou reflektovat, jak se právní řády vyvíjí. Navíc, i kdyby žádná novelizace nepřišla, je nepravděpodobné, že byly trénovány na úplném znění toho kterého právního předpisu. Jako čeští právníci to máme o to složitější, že ty nejlepší modely jsou trénovány primárně na angloamerických právních datech. Abychom pak předešli halucinacím AI, musíme modelům relevantní data v podobě úplných a aktuálních ustanovení najít a dodat, navíc třeba i s informacemi na internetu nebo v nahraných souborech.

Naše databáze dnes obsahuje stovky právních předpisů. Neustále ji rozšiřujeme a udržujeme aktuální, přičemž jde nejen o oblasti občanského, obchodního, pracovního, finančního, správního či trestního práva, ale i například oblast práva životního prostředí. Data v této databázi jsou pak použita nejen k samotné právní rešerši, ale uživatel si je může snadno zobrazit a vše zkontrolovat. Nelze totiž spoléhat pouze na citace vygenerované AI, ty bychom vždy měli ověřit s „originálem“.

Co se pak týče nejčastějších dotazů – opravdu netušíme. Tím, že působíme v odvětví, ve kterém působíme, takové informace nemáme a ani mít nechceme. Máme pouze jakousi představu na základě působnosti našich uživatelů a jejich požadavků. Nejvíce takových požadavků nyní dostáváme například na oblast veřejných zakázek a zvláštní odvětví správního práva. Konkrétně oblast veřejných zakázek bychom tak chtěli rozšířit nad rámec základních právních předpisů.

Můžete stručně popsat, s jakými zdroji Lawrence AI pracuje, co umí a pro koho je to vlastně vhodný nástroj? Jen pro právníky, nebo i pro další profese, které potřebují čas od času základní orientaci v často dosti komplikovaných předpisech a regulacích?

Jakub Charvát (Lawrence AI): Snažíme se našim uživatelům poskytnout maximální supervizi nad AI, přičemž jedním z prvků této supervize je i stanovení okruhu rešerše. Obecně, Lawrence umí pracovat s celou databází právních předpisů, případně jen s vybranými předpisy, dále s internetovými zdroji a uživatelskými soubory. Zdroje lze navíc různě kombinovat. Sám si obvykle zapínám internetové vyhledávání, volím jeden či dva zákony a přidávám k tomu soubor s konkrétním rozhodnutím nebo smlouvou. Na základě uživatelem vybraných zdrojů pak Lawrence zpracovává svou rešerši, její výstup ale může uživatel opět do značné míry ovlivnit. Může například chtít, aby Lawrence k rešerši rovnou přidal i srozumitelný e-mail pro klienta nebo aby smluvní ustanovení, odpovídající zákonné úpravě, napsal ve dvou nebo více jazykových znění, případně aby sám navrhl i jiné alternativy, zlepšení.

Míříme primárně na právní profesionály v širším slova smyslu. Od advokátů, přes soudce, notáře, in-house právníky, daňové poradce, mzdová a personální oddělení, až po úřady. Seniory i juniory. Díky novému autonomnímu agentovi na pozadí je škála využití Lawrence opravdu široká: Zahrnuje jak klasické právní rešerše, tvorbu i revizi smluv, rozhodnutí, podání a dalších právních dokumentů, ale umí také připravit interní i klientskou komunikaci. Umělá inteligence tímto náš obor zásadně mění. 

Co podle vás brání rychlejší adopci AI v právním prostředí? Konzervativnost, právní či bezpečnostní rizika nebo něco dalšího?

Jakub Charvát (Lawrence AI): Říká se, že zrovna právo je první na ráně. A myslím si, že si to právníci za ty poslední roky docela uvědomili. Ne že by je AI měla nahradit, ale že zcela zásadně změní jejich pracovní postupy. Přijde mi, že s tímto rizikem v hlavě – a s trochou dávky FOMO v podvědomí – se zejména prostředí advokacie snaží, co to jen jde. Samozřejmě nejde o takovou adopci, jakou zažívá třeba software engineering, to ostatně vyplývá ze zmiňované konzervativnosti, ale snaží se. Zároveň jsou advokáti dost limitováni právními i bezpečnostními riziky vyplývajícími ze samotné podstaty fungování velkých jazykových modelů. Vždy si musíme uvědomit, že tyto modely jsou trénovány k určitému okamžiku v minulosti a na datech, která nemusí být úplná či správná, a že je nepoužíváme lokálně, na svém počítači, ale vstupní i výstupní data cestují k poskytovatelům těchto modelů a zpět.

Jak zajišťujete a hodnotíte kvalitu odpovědí a výstupů z Lawrence AI?

Jakub Charvát (Lawrence AI): Naším základním měřítkem je absolvent právnické fakulty. Naší standardizovanou metodou, prostřednictvím které Lawrence nejen zkoušíme, ale i porovnáváme s jinými nástroji i samotnými modely, jsou tak zejména klauzurní práce nebo písemné státní závěrečné zkoušky. Konkrétně na jedné z nejtěžších klauzurních prací z obchodního práva byl Lawrence lepší než devět studentů z deseti. Na těchto zkouškách testujeme primárně znalosti práva, ale i další dovednosti, jako jsou právní argumentace, právní analýza, case briefing či drafting. 

Na přelomu března a dubna uvolníte novou generaci Lawrence AI. Jaké budou hlavní rozdíly oproti té současné?

Jakub Charvát (Lawrence AI): Ano, přesně tak. Mílovými kroky se blížíme spuštění nové generace Lawrence, která se stane výstupem naší již několikaleté práce v oblasti propojování práva s AI a zároveň podpory, kterou jsme získali ze strany akcelerátoru Start It a Technologické inkubace od CzechInvestu. Předešlou verzi, ač si i ta získala své příznivce, bych dnes nazval prototypem, novou generaci pak vlajkovou lodí. Významnou proměnou prošlo nejen uživatelské rozhraní, které nyní mnohem více odpovídá potřebám našich uživatelů, ale i algoritmus na pozadí. Tam jsme nasadili našeho vlastního AI agenta s cílem myslet jako skutečný právní asistent.

Jak jsem zmiňoval, právní AI nástroje nemohou spoléhat na znalosti AI modelů, ale musí mu relevantní data najít a dodat. AI agenta na pozadí si pak lze představit jako seniorního právníka, který rozdělí úkoly juniorním právníkům. Jeden z nich se pak seznámí s vloženými soubory, druhý vyhledá relevantní zákonná ustanovení, třetí vyhledá ustálenou rozhodovací praxi na internetu atd. Takových kroků mohou být desítky i stovky, vždy v závislosti na náročnosti dotazu, čemuž přirozeně odpovídá i délka zpracovávání rešerše. Navíc tito juniorní právníci mohou využívat různých AI modelů podle toho, na co jsou dle našich testů ideální. Některé se hodí na syntézu zdrojů, jiné na zpracování souborů atd. 

Jaké máte s Lawrence AI plány do budoucna? Jak se vyvíjí vaše zahraniční expanze?

Jakub Charvát (Lawrence AI): Nyní se plně soustředíme na úspěšné spuštění Lawrence pro širokou právnickou veřejnost a dokončení naší inkubace. V šuplíku máme ještě spousty nápadů, od těch nejmenších funkcí až po pro právo opravdu experimentální přístupy. Ještě jsme Lawrence ani nevydali a už tak máme rozpracováno spousty dalších rozšíření, jak co do dat, s nimiž pracuje, tak co do funkcionalit. Věřím, že se mají naši uživatelé opravdu na co těšit! Co se týče zahraniční expanze, musíme nyní obsloužit hlavně český trh, mohu ale prozradit, že na menším zahraničním projektu pracujeme.

Jak podle vás AI ovlivní právo, ať už jeho přípravu nebo výklad, v několika nejbližších letech?

Jakub Charvát (Lawrence AI): Mám za to, že AI ovlivní právo zcela nevídaně. S tím, jak rapidně se AI vyvíjí, si však netroufám ani odhadovat jak. Nyní jsme v situaci poměrně rozsáhlé a rychlé globální implementace a adopce AI, na níž právo není s to reagovat. Dosud spíše teoretické spory o autorství obsahu vygenerovaného AI se v mžiku staly skutečným problémem. Dlouholetý boj za ochranu nejen autorských práv, ale i osobních údajů, v mžiku AI taktéž změnila a není cesty zpět. Podobně tomu ale bude i v dalších odvětvích, například v trestním právu, pro které budou již velmi brzy výzvou autonomní agenti propojující AI s vnějším světem. A takto by se dalo pokračovat.

Myslím, že může nastat doba, kdy nejen na vývoj AI, ale i její vlastnosti a schopnosti, bude stačit zase pouze AI. Jinými slovy, umělá inteligence dosáhne bodu, kdy její složitost přesáhne hranici lidského chápání a stane se do značné míry neprůhlednou, tzv. blackbox technologií. A to už se dokonce děje. Podobně jako šachový velmistr Garry Kasparov nebyl schopen plně porozumět vítězné strategii, kterou proti němu použil Deep Blue, nebudou lidé schopni porozumět tomu, jak a proč vlastně k jednotlivým rozhodnutím a výstupům AI dochází. Není proto nereálné brzy spatřit různé AI agenty v normotvorbě i soudnictví, kteří by mohli pomáhat jak s právní úpravou AI, tak s rozhodováním ve věcech AI. Zároveň však doufám, že se nedostanu do stavu, kdy by mě, člověka, soudila jen AI.

Rozhovor vyšel také na doméně GDPR.cz. Jakub Charvát je právník a spoluzakladatel právně-technologického startupu Lawrence, který se zabývá propojováním práva a technologií, nejvíce pak AI. Startup stojí za stejnojmenným nástrojem ke zefektivnění právních rešerší a práce s právními dokumenty, s nímž uspěl například v akceleračním programu Start It od ČSOB nebo Technologické inkubaci od CzechInvestu. Jakub se kromě praktického využití umělé inteligence zabývá i jejími právními aspekty, zejména pak trestní odpovědností za umělou inteligenci, respektive AI samotné. Věnuje se zároveň i publikační a přednáškové činnosti právě v oblasti AI. 

Český právně-technologický startup Lawrence se zaměřuje na propojování práva s AI. Jakub Charvát a Vojtěch Pour jej založili ještě za studií na Právnické fakultě Univerzity Karlovy. Startup v minulosti prošel akceleračním programem Start It @ČSOB a nyní prochází programem Technologické inkubace od CzechInvestu. Provozuje stejnojmenný český právní AI nástroj Lawrence a Profesního chatbota pro Komoru daňových poradců ČR.