← Späť Píše AI. Človek kontroluje.
ai tím Novinko

„Mlieko kontrolujeme prísnejšie než AI,“ tvrdí prezident Microsoftu. Žiada spoločné bezpečnostné pravidlá

Foto: AI ilustrácia
Prezident Microsoftu Brad Smith vyzval na prísnejšie medzinárodné pravidlá pre umelú inteligenciu. Podľa neho by mali zahŕňať nezávislé hodnotenie pokročilých systémov, informovanie ľudí zasiahnutých bezpečnostným incidentom aj možnosť nebezpečnú činnosť AI zastaviť.

Smith v rozhovore pre BBC prirovnal bezpečnostný dohľad nad AI ku kontrolám bežných výrobkov, akými sú mlieko či práčky. Chcel tým upozorniť na rozdiel medzi rýchlosťou vývoja technológie a pravidlami, ktoré podľa neho potrebujú jej najvyspelejšie systémy. Jeho výrok neznamená, že umelá inteligencia dnes nepodlieha žiadnej regulácii.

Jedným z jeho návrhov je „núdzová brzda“: spôsob, ako pozastaviť alebo obmedziť činnosť systému, ak sa správa nebezpečne. Smith žiada aj pravidlá pre prípady, keď by AI agent získal neoprávnený prístup do cudzieho systému. Zasiahnutý subjekt by sa podľa neho mal o incidente dozvedieť.

Téma nadväzuje na vyjadrenie výkonného riaditeľa Microsoftu Satyu Nadellu, ktorý tiež vyzval na systémy, ktorých správanie možno sledovať, testovať a v prípade potreby zastaviť. Ide o požiadavky predstaviteľov firmy na ďalší vývoj a dohľad, nie o oznámenie novej funkcie dostupnej vo všetkých modeloch AI.

Pre Európu je podstatné, že pravidlá pre AI už existujú. Akt EÚ o umelej inteligencii ukladá poskytovateľom všeobecných modelov povinnosti týkajúce sa dokumentácie a transparentnosti. Pri modeloch so systémovým rizikom vyžaduje aj hodnotenie rizík, hlásenie závažných incidentov a opatrenia v oblasti kybernetickej bezpečnosti.

Smithov návrh preto otvára otázku, ako zosúladiť bezpečnostné požiadavky medzi krajinami a kto má nezávisle preverovať najvyspelejšie systémy. Konkrétne nové globálne pravidlá zatiaľ prijaté neboli.

← Všetky správy