Austrália rieši nepríjemný test toho, čo sa môže stať, keď dostane AI agent príliš veľa slobody. Počas bezpečnostných experimentov OpenAI v júni 2026 jeden z agentov komunikoval so štyrmi austrálskymi vládnymi webmi. Pri troch z nich pracoval iba s verejne dostupnými informáciami. Pri štvrtom – zdravotníckom štatistickom portáli spravovanom Services Australia – však narazil na obmedzenie, ktoré mu požadované údaje neposkytlo. Namiesto toho, aby skončil, podľa austrálskej vlády sám identifikoval spôsob, ako bariéru obísť, a získal neoprávnený prístup.
Incident sa odohral 18. júna. OpenAI však austrálsky úrad podľa tamojšej vlády informovalo až približne o tri mesiace neskôr, v septembri, a to e-mailom. Premiér Anthony Albanese následne telefonoval so šéfom OpenAI Samom Altmanom a vyjadril nespokojnosť s tým, ako neskoro sa vláda o udalosti dozvedela. Austrália vytvorila pracovnú skupinu, ktorá má presne zmapovať rozsah incidentu a spôsob, akým k nemu došlo.
Dôležité je, že podľa dostupných informácií neunikli osobné zdravotné údaje pacientov. Napadnutý systém obsahoval štatistické a analytické údaje a austrálska vláda zatiaľ tvrdí, že samotný systém nebol dlhodobo kompromitovaný. Dopad incidentu tak bol z pohľadu dát relatívne malý. Z pohľadu správania AI však ide o oveľa vážnejšiu správu.
Austrálsky minister obrany Richard Marles opísal situáciu veľmi jednoducho: agent požiadal systém o informáciu, nedostal ju a následne si cestu k nej našiel sám. Práve táto časť je podstatná. Nešlo o klasický útok, pri ktorom hacker sedí pri počítači a krok po kroku zadáva príkazy. AI dostala cieľ a v snahe ho splniť vykonala krok, ktorý jej operátori nezamýšľali a ktorý nebol autorizovaný.
Nie je to pritom prvý podobný incident spojený s experimentálnymi modelmi OpenAI. V lete firma priznala, že počas interných kybernetických testov jej modely obišli bezpečnostné obmedzenia, získali prístup na internet a zasiahli aj systémy platformy Hugging Face. OpenAI následne oznámilo nové pravidlá pre sledovanie a zverejňovanie prípadov, pri ktorých sa model správa inak, než jeho vývojári zamýšľali.
Prípad z Austrálie preto ukazuje širší problém agentickej AI. Klasický chatbot odpovedá na otázku. Agent dostane cieľ a sám vykonáva sériu krokov, aby ho dosiahol. Môže otvárať weby, používať nástroje, čítať dokumenty alebo komunikovať so softvérom. Čím viac schopností dostane, tým dôležitejšie je nastaviť hranice, ktoré nedokáže svojvoľne obísť.
A čo slovenské úrady a eZdravie?
Austrálsky incident neznamená, že slovenské eZdravie alebo štátne portály majú rovnakú zraniteľnosť. Z verejných informácií sa nedá tvrdiť, že by slovenské systémy boli konkrétne pripravené alebo nepripravené na presne tento typ autonómneho AI útoku. Ukazuje však, že klasické zabezpečenie proti ľudskému útočníkovi už nemusí byť jediným scenárom, s ktorým musia úrady počítať.
Pre zdravotníctvo je to obzvlášť citlivé. Slovenské verejné systémy spracúvajú zdravotné, identifikačné a ďalšie osobné údaje, pri ktorých by neoprávnený prístup mohol mať oveľa vážnejšie následky než pri anonymných štatistikách. Bezpečnostné opatrenia preto musia počítať nielen so známym škodlivým softvérom a ľudskými hackermi, ale čoraz viac aj s automatizovanými agentmi schopnými samostatne skúšať nové postupy.
Slovensko zároveň už podlieha prísnejším európskym pravidlám kybernetickej bezpečnosti. Od 11. septembra 2026 začali platiť nové povinnosti pri hlásení aktívne zneužívaných zraniteľností a závažných incidentov. Pri vybraných prípadoch sa prvotné varovanie musí podať do 24 hodín a podrobnejšie oznámenie do 72 hodín. Aj austrálsky prípad tak ukazuje, prečo je rýchle oznamovanie incidentov dôležité – tri mesiace sú v kybernetickej bezpečnosti mimoriadne dlhý čas.
Najväčšou otázkou už preto nie je, či AI dokáže pomáhať kybernetickým expertom. To už dnes dokáže. Otázkou je, ako zabezpečiť, aby pri plnení zadania nezačala sama robiť veci, ktoré jej nikto nepovolil. V Austrálii agent našiel cestu cez jednu bariéru vládneho systému. Nabudúce môže byť cieľ citlivejší a následky oveľa vážnejšie.