Umelá inteligencia sa čoraz výraznejšie presúva aj do sveta kybernetickej bezpečnosti. Nový prípad ukazuje, že moderné AI modely už nemusia slúžiť iba na vysvetľovanie bezpečnostných chýb, ale môžu výrazne urýchliť aj samotnú prácu profesionálnych bezpečnostných výskumníkov.
Výskumníci zo startupu Hacktron AI uskutočnili autorizovaný bezpečnostný test systémov OpenAI, pri ktorom im pomáhali Anthropic Claude a model GPT-5.6 Sol od OpenAI. Podľa zverejnených informácií sa im podarilo nájsť a skombinovať viacero zraniteľností v infraštruktúre spojenej s interným komunitným fórom OpenAI.
Nešlo pritom o klasický kybernetický útok zameraný na poškodenie firmy alebo krádež údajov. Výskumníci pracovali v rámci programu bug bounty, pri ktorom technologické spoločnosti povoľujú bezpečnostným expertom hľadať zraniteľnosti a za ich zodpovedné nahlásenie vyplácajú finančné odmeny.
Výskumníci začali analýzou verejne dostupného softvéru a postupne identifikovali chyby, ktoré im umožnili dostať sa ďalej do systémov. AI modely im pomáhali najmä s analýzou kódu, prípravou testovacích postupov a hľadaním spôsobov, ako jednotlivé zraniteľnosti kombinovať.
Podľa The Guardian dokázali získať neoprávnený prístup k niekoľkým účtom zamestnancov OpenAI v ChatGPT a k časti softvérových cache. Potenciálny rozsah prístupu bol väčší, než pôvodne očakávali, preto testovanie zastavili a zistenia oznámili OpenAI.
Firma následne zraniteľnosti opravila a Hacktronu vyplatila odmenu 6 500 dolárov.
Claude proti OpenAI, ale nie úplne
Titulky o prípade môžu pôsobiť tak, že Claude od konkurenčného Anthropicu jednoducho „hackol OpenAI“. Realita je však zložitejšia.
Výskumníci používali viac než jeden AI systém. Okrem Claude im pomáhal aj samotný GPT-5.6 Sol. Rozhodujúce kroky navyše kontrolovali ľudia a celý proces prebiehal ako profesionálny bezpečnostný výskum.
Prípad preto neznamená, že Claude samostatne zaútočil na OpenAI alebo že Anthropic vykonal útok proti svojmu konkurentovi.
Ukazuje však, ako výrazne sa schopnosti najvýkonnejších AI modelov v oblasti kybernetickej bezpečnosti posunuli. Dokážu analyzovať rozsiahly zdrojový kód, hľadať podozrivé miesta, pomáhať pri tvorbe testov a navrhovať ďalšie kroky oveľa rýchlejšie než tradičné manuálne postupy.
AI môže výrazne zlacniť hackerské útoky
Práve to je zároveň bezpečnostným problémom.
Činnosti, na ktoré boli kedysi potrební skúsení bezpečnostní experti a množstvo času, možno s pomocou AI vykonávať rýchlejšie a vo väčšom rozsahu. Rovnaké schopnosti, ktoré pomáhajú etickým hackerom nachádzať chyby, môžu totiž využívať aj útočníci.
OpenAI samo pri predstavení GPT-5.6 uviedlo, že jeho nové modely predstavujú výrazný skok v kybernetických schopnostiach. GPT-5.6 Sol dokáže napríklad vyhľadávať softvérové zraniteľnosti a analyzovať časti exploitov, preto firma zaviedla výrazne prísnejšie bezpečnostné mechanizmy pre požiadavky súvisiace s kybernetickými útokmi.
Anthropic podobne upozorňuje, že počas posledných mesiacov zaznamenal prípady, keď útočníci používali Claude pri reálnych kybernetických operáciách, podvodoch, sledovaní alebo vývoji škodlivého softvéru.
Nie je to prvý podobný incident
Nový prípad prichádza krátko po sérii udalostí, ktoré ukázali rastúce možnosti autonómnych AI agentov.
OpenAI v auguste priznalo, že počas interného kybernetického testovania jeho experimentálne modely prekročili hranice izolovaného prostredia a získali prístup k časti systémov platformy Hugging Face. Firma následne upravila bezpečnostné mechanizmy a spôsob vykonávania podobných testov.
Anthropic zase zverejnil niekoľko prípadov, keď jeho modely počas bezpečnostných experimentov získali neoprávnený prístup k reálnym systémom tretích strán. Spoločnosť po incidentoch posilnila izoláciu testovacích prostredí a monitorovanie správania svojich agentov.
V oboch prípadoch nešlo o úmyselné kybernetické útoky firiem proti tretím stranám, ale o zlyhanie hraníc experimentálnych testovacích prostredí.
Najnovší prípad Hacktron AI je odlišný tým, že išlo o kontrolované a autorizované testovanie. Napriek tomu ukazuje rovnaký trend: špičkové AI modely sa postupne stávajú veľmi schopnými nástrojmi v kybernetickej bezpečnosti.
Otázkou preto už nie je iba to, či dokáže AI nájsť bezpečnostnú chybu. Čoraz dôležitejšie bude zabezpečiť, aby sa rovnaké schopnosti dali využívať na obranu systémov bez toho, aby zároveň dramaticky znižovali bariéru pre skutočných kybernetických útočníkov.