AI ve finančním sektoru: Příležitosti a rizika

Pro finanční sektor platí celá řada specifických regulací. Některá jsou průřezová a společná pro celý více oblastí, jako jsou například pravidla pro boj proti praní špinavých peněz a financování terorismu (AML/CFT) nebo pro ochranu spotřebitele. Jiné předpisy upravují poskytování distribuci konkrétních produktů, například pojištění, investic, úvěrů nebo nově také kryptoměn (nařízení MiCA).

Pokud se na tyto povinnosti podíváme ryze provozně, mnoho z nich vyžaduje zavedení interních procesů a postupů, při kterých často opakují velmi obdobné kroky. Jde například o kontrola dokumentů či dokladů předložených klientem, monitoring správné komunikace vlastních zaměstnanců s klienty, vyhodnocování podkladů, monitoring podezřelých nebo neobvyklých aktivit atd.

Procesy, který jsou už nyní realizovány manuálně nebo poloautomaticky, zahrnují sérii opakujících se kroků a existuje k nim řada dat a informací… Ano, vidím to stejně jako vy! Typický kandidát na vylepšení pomocí umělé inteligence!

Data máme, je na čem se učit a co rozvíjet, pojďme zkusit být efektivnější a ušetřit. Ušetřit čas, peníze i kapacity.

Které činnosti jsou vhodné pro AI?

Ve kterých procesech finanční instituce mohou využívat, a mnohdy už to také zkoušejí, některé prvky umělé inteligence?

Typickými příklady jsou:

• Nabídka produktů

• Určování cen a podmínek produktu

• Schvalování žádostí o finanční produkt či službu

• Identifikace a kontrola klienta (tzv. KYC a KYT monitoring)

• Monitoring a vyhodnocování podezření na podvodné jednání

• Podpůrné procesy na back-office, např. vyhodnocování a zpracování klientských žádostí

• Řada činností v IT, od vývoje a testování kódu, přes datovou analytiku až po provozní monitoring 
  

4 hlavní rizika AI ve finančním sektoru

Využití umělé inteligence může výrazně usnadnit práci. Konkrétním zaměstnancům i celým týmům. Organizacím jako takovým může AI ušetřit kapacity vynakládané na opakující se procesy a činnosti.

Ovšem nic v životě není zadarmo. Ani nasazení umělé inteligence. Jaká jsou hlavní rizika AI ve finančním sektoru? Můžeme je rozdělit do těchto čtyř kategorií:

• Interní informace: Osobní údaje, bankovní tajemství, know-how, obchodní plány, informace s dopadem na cenu akcií… Pokud tyto informace uniknou, třeba k dalším uživatelům AI nástroje, může to mít pro finanční instituci velmi neblahé důsledky.
• Kybernetická bezpečnost: Přílišné, lépe řečeno slepé spoléhání se na AI může výrazně oslabit celkovou úroveň kybernetické bezpečnosti. Z jednoho úhlu pohledu instituci hrozí zavlečení bezpečnostní chyby či slabiny, kterou jí poradí nebo naprogramuje AI. Na druhé straně je nutné být si vědom rizika neodhalení nebo špatného posouzení bezpečností události AI nástrojem. Ani jedno rozhodně není žádoucím výsledkem a mnoho času, kapacit a peněz takováto chyba neušetří…
• Regulace: Ať už se jedná o průřezovou regulaci, jako je GDPR, nebo sektorovu úpravu, nasadit AI bez alespoň základního zhodnocení a nastavení dodatečných pravidel může být problematické z řady aspektů. Například využití osobních údajů pro vývoj AI nebo jejich možné sdílení s dalšími uživateli, předávání osobních údajů mimo EU, ale třeba také (ne)dokumentovatelnost postupů finanční instituce, porušení mlčenlivosti, nedostatečné zajištění práv nebo přímo diskriminace spotřebitele atd.
• Právní rizika: Čtete si podmínky k využívaným AI službám? Víte, že obrázek, který vám AI namaluje, často vůbec nesmíte veřejně používat, a že naopak ke všem vstupům dáváte neomezenou licenci provozovateli služby?

Jste AI pštros?

Uvedli jsme si čtyři hlavní kategorie rizik využití AI ve finančním sektoru. Jak AI ve finanční instituci, ale vlastně v jakékoliv organizaci, interně řešit?

Základními možnostmi jsou:

• AI neřešit (scénář pštros)

• AI zakázat (scénář nahý císař)

• AI řídit jako specifický druh outsourcingu

I bez bližšího vysvětlování je asi zjevné, která varianta je pro organizaci nejlepší. Nejvýhodnější, nejbezpečnější, nejefektivnější. Jen pro jistotu, není to ani varianta pštros, ani varianta nahý císař.

Proč ne?

Protože i když bude organizace AI ignorovat, nebo ji císařským výnosem na věky věků zakáže, většinou si k ní AI stejně najde cestičku. Možná nejdřív na IT oddělení, kde bude někdo potají zkoušet rychleji a lépe psát kód nebo testovat. Nebo na marketingu, který bude chtít lepší obrázky a chytlavější slogany. Ignorovat rizika související s AI je prostě krátkozraké a každou organizaci to dříve či později dožene.

Jak AI využívat chytře, kontrolovaně a efektivně, s minimalizací rizik? Odpověď naleznete v plném znění článku na gdpr.cz.