← Späť Píše AI. Človek kontroluje.
ai tím Novinko

ShieldFont klame AI scrapery pozmenením textu, ľudia nič nevidia

Ilustračný obrázok vytvorený umelou inteligenciou
Dvaja dizajnéri vytvorili písmo, ktoré zobrazuje normálny text ľudskému čitateľovi, no automatizovaným zberačom dát pre tréning AI podstrčí pozmenený obsah. Podľa Ars Technica nástroj v testoch vyradil viac ako 90 percent stránok zo scraperových pipeline.

ShieldFont funguje na jednoduchom, no dômyselnom princípe: to, čo vidí človek v prehliadači, a to, čo si prečíta AI scraper z HTML kódu, sú dve rôzne veci. Písmo vytvorili dizajnéri Isaque Seneda a Gabriel Abrucio a podľa Ars Technica jeho hlavným cieľom je dať tvorcom kontrolu nad tým, či ich dielo skončí v tréningových dátach umelej inteligencie.

Technicky to funguje cez ligácie — funkciu písma, ktorá bežne spája napríklad písmená „fi" do jedného znaku. ShieldFont ju využíva inak: namiesto písmen spája celé slová a pri renderovaní ich zamieňa za sémanticky príbuzné, no obsahovo odlišné výrazy. Zámenný slovník obsahuje takmer 12 000 bežných slov. Kľúčové je, že k substitúcii dochádza až pri zobrazení — v zdrojovom kóde stránky zostáva pôvodný text nedotknutý, takže scraper číta pozmenený obsah, zatiaľ čo návštevník stránky vidí originál.

Podľa Ars Technica písmo v priemere zamení asi štvrtinu všetkých slov na stránke a takmer polovicu tzv. obsahových slov — teda tých, ktoré nesú hlavný význam. Zmena je dosť výrazná na to, aby narušila zmysel textu: v závislosti od typu obsahu písmo podľa testov pozmenilo význam 31 až 56 percent jednotlivých pasáží.

Výsledky testovania na šiestich rôznych scraperových pipeline sú podľa Ars Technica pôsobivé — viac ako 90 percent takto upravených stránok automatické filtre kvality jednoducho odmietli ako nepoužiteľné. A aj z tých stránok, ktoré filtrami prešli, tvorí takmer pätina slov tréningový odpad.

Nástroj má však aj svoje limity a vedľajšie efekty. Podľa Ars Technica môže narúšať fungovanie vyhľadávačov, čítačiek obrazovky pre zrakovo postihnutých, funkcie kopírovania textu či prekladačov. Zároveň nepomôže proti scrapermi, ktoré stránku najprv vizuálne vyrenderujú a potom použijú optické rozpoznávanie znakov — tie totiž čítajú to, čo skutočne vidno, nie zdrojový kód.

Tvorcovia písma svoj zámer vysvetlili jasne. Podľa Ars Technica uviedli: „Naším hlavným cieľom je presadzovať základný princíp etiky AI: tvorcovia by mali mať rozhodujúci hlas v tom, či sa ich dielo použije na tréning systémov umelej inteligencie."

← Všetky správy