Umelá inteligencia mení spôsob, akým útočníci vyhľadávajú slabiny a prenikajú do systémov. Podľa Alexa Stamosa, šéfa bezpečnosti spoločnosti Cognition, môžu nové nástroje pomôcť automatizovať viacero krokov kybernetického útoku. V rozhovore pre portál The Verge preto varoval, že obrancov čaká náročné obdobie, kým sa novým možnostiam útočníkov prispôsobia.
Stamos používa označenie „temné obdobie“ ako svoj odhad budúceho vývoja, nie ako pomenovanie konkrétne merateľnej udalosti. Zároveň nepredpokladá, že sa počítačové systémy stanú dokonale bezpečnými ani po tom, čo sa obrana zlepší. K narušeniam totiž dochádza aj bez chyby v softvéri, napríklad po odcudzení prihlasovacích údajov alebo oklamaní zamestnanca.
Na zneužívanie AI upozornila aj spoločnosť Anthropic vo svojej septembrovej bezpečnostnej správe. Opísala v nej podozrenie na špionážnu operáciu spájanú s Ruskom, pri ktorej útočníci podľa jej zistení používali AI pri príprave phishingových kampaní, zhromažďovaní informácií a ďalších častiach operácií. Phishing je spôsob podvodu, pri ktorom sa útočník napríklad falošnou správou pokúša vylákať prihlasovacie údaje. O zisteniach firmy informovala aj agentúra Reuters. Správa Anthropic opisuje vybrané prípady, nie všetky útoky využívajúce AI.
Bezpečnostné incidenty zároveň nemožno automaticky pripisovať umelej inteligencii. Stamos v rozhovore upozornil, že pri niektorých útokoch zostáva významnou súčasťou ľudská práca a sociálne inžinierstvo – teda manipulácia ľudí s cieľom získať prístup alebo informácie.
Ďalším rizikom sú prepojené služby a nástroje, ktorým firmy dôverujú. Microsoft koncom októbra analyzoval škodlivo upravené verzie rozšírenia označeného ako Claude Code, ktoré boli dostupné v obchode s rozšíreniami Cursor. Podľa Microsoftu sa škodlivý kód pokúšal získať informácie o zariadení a vytvoriť cestu na vzdialený prístup. Úspech jednotlivých krokov však závisel od oprávnení a nastavenia zariadenia. Tento prípad sám osebe nedokazuje, že útočník použil AI.
Stamos vidí priestor pre AI aj na strane obrancov. Nástroje môžu pomáhať bezpečnostným tímom spracovať veľké množstvo záznamov a reagovať na podozrivú aktivitu. Podľa neho by však mali pracovať pod ľudským dohľadom a s jasne určenými hranicami oprávnení. Navrhuje tiež zvážiť úpravu alebo nahradenie niektorých starších systémov, pri ktorých samotné opravovanie veľkého množstva chýb nemusí stačiť.
Pre firmy z toho vyplýva potreba poznať svoje používané služby, aktualizovať softvér a obmedziť prístupové práva na nevyhnutný rozsah. Dôležité je tiež chrániť prihlasovacie údaje a preverovať doplnky či prepojenia, ktorým zamestnanci poskytujú prístup. AI môže byť užitočnou súčasťou obrany, no jej použitie samo osebe nie je dôkazom bezpečnosti systému.