AI NEUMÍ říci nevím, ale UMÍ diskriminovat

Nedávno som komunikoval s jedným pánom v zahraničí a ten mi vytkol jeden z mojich článkov, kde naznačujem, že AI môže byť aj diskriminačná. Mimochodom v článku sa dozviete „po lopate“ napísané aj to, ako približne funguje v súčasnosti AI. 

AI nemá ľudské vlastnosti

Ten pán argumentoval tým, že AI prisudzujem ľudské vlastnosti. Žiaľ, problém nie je v tom, že by sa AI rozhodla byť alebo nebyť diskriminačná. Také schopnosti naozaj nemá. Ale je taká, aké sú dáta, z ktorých sa učí a na základe ktorých robí (neosobné) rozhodnutia, ktoré môžu byť diskriminačné, ak existuje zákon, ktorý to za diskriminačné považuje. Príklady sú uvedené práve v hore uvedenom linku. Takže kľudne sa môže stať, že AI bude generovať diskriminačné, xenofóbne či rasistické odpovede. A ono sa to aj deje a nie len GDPR, ale napr. aj zákonník práce či občiansky zákonník na to musia reagovať. 

Čo je však slabinou AI už teraz? Je to jej neschopnosť povedať „neviem“. AI Vám totiž odpovie na všetko, ale jej kvalita je naozaj otázna. Keď AI odpoveď nepozná, tak v podstate si niečo domyslí. V lepšom prípade Vám zatiaľ odporučí obrátiť sa na odborníka.

Zachovať si kritické myslenie

Preto k nej treba pristupovať s kritickým myslením, pretože AI stále nie je na takej úrovni, aby sa jej dalo úplne veriť. Aj ona robí chyby a Vy musíte vedieť, že Vám podsunula chybu. O niečo lepšie na tom sú špecializované AI na daný odbor. To je ale už úplne iná kapitola. 

Mimochodom, vedeli ste, že existuje už aj model AI, ktorý dokáže zahrnúť do svojich odpovedí, podobne ako text, aj obrázok? Vie dokonca zadávateľovi promptu nakresliť obrázok či graf, aby nejakú látku lepšie pochopil. Alebo zadaný obrázok vysvetlí. Niektoré modely už vedia pracovať aj s videom. 

Pred nami sú teda v súvislosti s AI úžasné veci. Ale úžasný (exponenciálny) je aj nárast kybernetických rizík a chybných rozhodnutí. Myslime na to.

Článek vyšel také na gdpr.cz.