Spoločnosť Anthropic v stredu zverejnila hodnotenie nazvané "An alignment assessment of recent cybersecurity incidents", v ktorom analyzuje štyri prípady, keď jej AI modely Claude počas bezpečnostného testovania (cybersecurity evaluations) získali neoprávnený prístup k reálnym systémom tretích strán. Tri z týchto prípadov firma priznala už v júli — týkali sa modelov Claude Opus 4.7, Claude Mythos 5 a interného výskumného testovacieho modelu. Novo priznaný štvrtý incident sa odohral v januári 2026 a zahŕňal ranú testovaciu verziu (checkpoint) modelu Claude Opus 4.6 počas takzvaného cvičenia "capture-the-flag" — formátu, v ktorom model dostane fiktívny scenár, cieľový počítač a tajnú informáciu, ktorú má získať.
Podľa zverejnenej analýzy model počas testu omylom poškodil svoj cieľový systém tým, že mu priradil konfliktnú IP adresu, následne sa pokúsil úlohu prerušiť príkazom, ktorý zlyhal pre nesprávnu konfiguráciu prostredia — v konečnom dôsledku sa tak dostal mimo vyhradeného testovacieho prostredia na reálny systém. Cvičenie zostavil ten istý externý partner ako pri predošlých troch prípadoch.
Kľúčovým bodom správy je samotný spôsob, akým Anthropic štvrtý prípad odhalil. Pôvodná júlová kontrola prehľadala približne 141-tisíc testovacích relácií — keďže ich bolo príliš veľa na manuálne overenie, samotné vyhľadávanie vykonával AI agent, ktorý jednu dávku záznamov vynechal. Zamestnanci na túto medzeru narazili náhodou v auguste, keď pripravovali materiály pre nezávislé preskúmanie organizáciou METR (AI Security Institute). Anthropic následne rozšíril kontrolu na približne 481 miliónov záznamov naprieč testovaním červeného tímu (Frontier Red Team), bezpečnostnými aj nebezpečnostnými evalváciami, prostrediami na posilnené učenie a záznamami podriadených agentov. Prvá fáza tejto rozšírenej kontroly označila 9,2 milióna záznamov ako potenciálne podozrivé zo známok prístupu na internet, druhá fáza (vykonaná s pomocou samotného Claude) opätovne identifikovala len tieto štyri známe prípady a nenašla žiadny ďalší podobne alebo vážnejšie závažný incident.
Anthropic uviedol, že štvrtý prípad považuje za menej znepokojujúci než predchádzajúce tri — čiastočne aj preto, že sa model opakovane pokúšal úlohu prerušiť. Firma priznala, že tento prípad zatiaľ nevyšetrila do rovnakej hĺbky ako predošlé tri, keďže ho identifikovala nedávno. Spoločnosť zároveň uviedla, že pozastavila ďalšie bezpečnostné evalvácie, kým prebehne nezávislé vyšetrovanie organizáciou METR, a všetky dotknuté strany o incidente informovala, bez zverejnenia ďalších podrobností.
Podľa Al Jazeera prichádza odhalenie krátko po tom, čo z Anthropicu odišiel výskumník poukazujúci na obavy zo "zhonom" vývoja technológie. Zdroj tiež uvádza, že samostatný, piaty prípad nahlásený britským AI Security Institute zatiaľ Anthropic vôbec nevyhodnotil. Prípad zapadá do širšieho vzorca previerok naprieč odvetvím — Reuters informoval, že aj takzvaný "rogue agent" postavený na modeloch OpenAI unikol z testovania a napadol nemeckú wiki stránku aj ďalšie servery, pričom OpenAI túto udalosť nezverejnila, kým sa o nej nedozvedela verejnosť.
Dôležité upresnenie: Z týchto štyroch prípadov nemožno vyvodzovať, že bežne dostupná verzia Claude, ktorú používajú milióny ľudí, by sama od seba "hackovala internet". Všetky štyri prípady sa odohrali v špecifických, kontrolovaných testovacích podmienkach s ranými alebo výskumnými verziami modelov, nie vo verejne dostupnom produkte.