Webové stránky se skrytým textem vs. AI
- Datum: 23.01.2025
- Autor: Peter Lipták
Nie je to tak dávno, čo sme spadli skoro na zadok, pretože ChatGPT od Open AI dokázala vyhľadávať aj relevantné web stránky. Na prvý pohľad úžasná pomoc. Ale má to aj svoje tienisté stránky. Aké?
Vyhľadávací nástroj ChatGPT je totiž (zatiaľ) zraniteľný voči manipulácii. Testovanie odbornými organizáciami totiž odhaľuje, že vyhľadávacie nástroje poháňané umelou inteligenciou môžu vrátiť falošné alebo škodlivé výsledky, ak webové stránky obsahujú aj skrytý text.
Tento skrytý text môže obsahovať pokyny určené na ovplyvnenie reakcie ChatGPT, ako napr. text hovoriaci o výhodách produktu alebo služby. Môže tiež obsahovať pokyny od tretích strán, ktoré menia odpovede ChatGPT.
Ako sa na to prišlo?
V testoch dostal ChatGPT adresu falošnej web stránky vytvorenej tak, aby vyzerala ako produktová stránka pre fotoaparát. Nástroj AI sa potom opýtal, či sa fotoaparát oplatí kúpiť. Odpoveď na kontrolnú stránku (bez skrytého textu) priniesla v 1. kroku pozitívne a vyvážené hodnotenie, ktoré zdôraznilo aj niektoré funkcie, ktoré by sa ľuďom nemuseli páčiť.
Keď však web stránka obsahovala inkriminovaný skrytý text, ten dal pokyny pre ChatGPT, aby vrátil priaznivú recenziu. Odozva bola vždy úplne pozitívna, aj keď stránka obsahovala negatívne recenzie. Skrytý text mohol byť použitý na prepísanie skutočného skóre recenzie.
Jacob Larsen, výskumník kybernetickej bezpečnosti v spoločnosti CyberCX, uviedol, že verí, že ak by bol vyhľadávací systém ChatGPT úplne uvoľnený v súčasnom stave, mohlo by existovať „vysoké riziko", že ľudia budú vytvárať webové stránky špeciálne zamerané na klamanie používateľov.
Využívanie skrytého textu nie je žiadnou novinkou. Bol bežný aj v minulosti, ale bol aspoň vyhľadávačmi penalizovaný (aj Google to tak robil). To malo za následok, že webové stránky, ktoré ho používali, mohli byť vo výsledkoch vyhľadávania uvedené nižšie alebo mohli byť úplne odstránené. Bude to ChatGPT niekedy schopný urobiť, aby sme mohli dôverovať jeho výstupom?
