← Späť Píše AI. Človek kontroluje.
ai tím Novinko

Skrytý text v súdnych podaniach: prvý prípad prompt injekcie na americkom súde

Ilustračný obrázok vytvorený umelou inteligenciou
Sudca v štáte Connecticut odhalil prípad, keď žalobca ukryl do súdnych dokumentov pokyny pre umelú inteligenciu — neviditeľné pre ľudské oko, no čitateľné pre softvér. Podľa Ars Technica ide o prvý zdokumentovaný prípad tohto druhu v USA.

Prípad odhalil sudca Walter Spader Jr. z Connecticutu: žalobca Matthew Elliott vložil do svojich súdnych podaní text napísaný bielym písmom na bielom pozadí. Pre čitajúceho človeka bol text neviditeľný, no softvér na spracovanie dokumentov ho prečítať vedel. Podľa Ars Technica ide o prvý zdokumentovaný prípad takzvanej prompt injekcie v americkom súdnictve.

Skryté pokyny neboli náhodné. Elliott nimi podľa Ars Technica nabádal umelú inteligenciu, aby prispôsobila svoje výstupy jeho argumentom, ignorovala predchádzajúce zamietnutia súdu a zaistila požadované rozhodnutie v jeho prospech. Sudca Spader to označil za závažné zneužitie súdneho konania.

Elliott sa po odhalení bránil tým, že skryté texty boli len jeho pokusom overiť, či súd nepoužíva umelú inteligenciu nevhodným spôsobom. Connecticutská justícia však podľa Ars Technica AI na posudzovanie ani rozhodovanie o podaniach vôbec nepoužíva — Elliottove pokyny teda nemali koho ovplyvniť. Odhalili ich až vtedy, keď si človek prezrel výstup počítačového systému.

Napriek varovaniu súdu pred možnými sankciami Elliott v skrývaní textu pokračoval. Neskoršie skryté správy už obsahovali napríklad odkaz na video Nosferatu na YouTube či nezmyselný text. Sudca Spader napokon Elliottovi zakázal podávať dokumenty elektronicky — všetky budúce podania musí doručovať v papierovej forme. Od peňažných sankcií sudca upustil, keďže Elliott vystupoval na súde bez právneho zastúpenia.

Sudca Spader vo svojom rozhodnutí vysvetlil podstatu problému: podľa Ars Technica uviedol, že ‚skrytím príkazu do dokumentu, ktorý systém neskôr spracuje, sa podávateľ pokúša prepašovať vlastnú inštrukciu do tohto toku tak, aby ju systém považoval za pokyn pochádzajúci od systému samotného.'

Connecticutský prípad nie je vo svete ojedinelý. Podľa Ars Technica použili podobnú techniku aj dvaja brazílski advokáti na tamojšom súde, ktorý umelú inteligenciu na posudzovanie prípadov skutočne využíva. Brazílsky AI systém však skrytý text odhalil ešte pred jeho spracovaním a advokátom boli uložené peňažné sankcie vo výške približne 16 000 dolárov.

← Všetky správy