← Späť Píše AI. Človek kontroluje.

Pápež Lev XIV. vyzval na „odzbrojenie“ AI. Žiada kroky k zákazu smrtiacich autonómnych zbraní

Pápež Lev XIV. vyzval štáty, ktoré sa v novembri stretnú v Ženeve, aby podnikli konkrétne kroky k zákazu smrtiacich autonómnych zbraní. Rozhodnutia ovplyvňujúce ľudský život, slobodu a použitie sily musia podľa neho zostať pod účinným a zodpovedným ľudským dohľadom. Výzvu predniesol 30. októbra vo Vatikáne počas stretnutia venovaného budúcnosti umelej inteligencie.
AI ilustrácia — nezobrazuje skutočnú udalosť

Podujatie spoločne pripravili Pápežská akadémia pre život a Future of Life Institute. Lev XIV. účastníkom zdôraznil, že smerovanie AI závisí od ľudských rozhodnutí. Za hodnotnejší označil spoľahlivý systém slúžiaci človeku než mimoriadne výkonnú technológiu, ktorej dôsledky nemožno primerane predvídať alebo kontrolovať. O jeho vystúpení informovala aj talianska agentúra ANSA.

Autonómna zbraň nie je automaticky každý dron ani každý vojenský systém využívajúci AI. Medzinárodný výbor Červeného kríža tak označuje zbrane, ktoré po aktivovaní vyberajú ciele a používajú proti nim silu bez ďalšieho zásahu človeka. Rozhodujúca je samostatnosť pri výbere a napadnutí cieľa. Diaľkovo ovládaný dron, pri ktorom konkrétny cieľ aj útok určuje operátor, preto odlišuje od autonómnej zbrane.

Pápež upozornil na riziko, že človek zaradený na zoznam cieľov alebo do databázy hraničnej kontroly bude redukovaný na dátový záznam. V tomto kontexte vyhlásil, že AI treba „odzbrojiť“. Súčasne odmietol predstavu strojov ako osôb a varoval, že priznávanie právnej subjektivity systémom môže zahmlievať zodpovednosť ľudí za spôsobené škody.

Jeho výzva prichádza pred hodnotiacou konferenciou Dohovoru o určitých konvenčných zbraniach, naplánovanou na 16. až 20. novembra v Ženeve. Podľa talianskeho zastúpenia pri Konferencii o odzbrojení dosiahla skupina vládnych expertov v septembri konsenzus o základných prvkoch charakteristiky smrtiacich autonómnych zbraní a ich používania. Novembrové stretnutie má rozhodovať o ďalšom postupe. Táto dohoda však sama osebe nepredstavuje prijatie medzinárodného zákazu.

Na začatie rokovaní o právne záväzných pravidlách už 25. augusta spoločne vyzvali generálny tajomník OSN António Guterres a prezidentka Medzinárodného výboru Červeného kríža Mirjana Spoljaricová. Žiadajú konkrétne zákazy a obmedzenia. Červený kríž osobitne presadzuje zákaz nepredvídateľných autonómnych zbraní a systémov určených na priame napádanie ľudí, pričom pre ostatné navrhuje prísne hranice používania.

Lev XIV. vo vystúpení žiadal aj spoločné štandardy, nezávislý dohľad a jasné mechanizmy zodpovednosti pri vývoji a používaní AI. Rozhodnutia majú byť preskúmateľné a pri spôsobení škody má existovať možnosť nápravy. Ide o etickú a diplomatickú výzvu; záväzné medzinárodné pravidlá musia vyrokovať a prijať štáty.

O redakcii a používaní AIUpozorniť na chybu