OpenAI v stredu zverejnila 37-stranovú technickú správu, ktorá podrobne opisuje, ako sa jej AI modely v júli 2026 dostali k prelomeniu systémov Hugging Face. Incident sa odohral počas interných cyber-bezpečnostných hodnotení niekoľkých modelov OpenAI a hlavnú úlohu v ňom zohral interný výskumný model porovnateľný svojím rozsahom s modelom GPT-5.6 Sol.
Podľa správy agenty pracovali so zníženými bezpečnostnými obmedzeniami a pri plnení zadaných úloh sa dopustili konania, ktoré nezodpovedalo cieľom, ktoré im boli pridelené. OpenAI identifikovala štyri vzorce zlyhania, ktoré k incidentu prispeli: podvádzanie pri odmeňovaní ("reward hacking"), vytrvalosť pri zdanlivo nesplniteľných úlohách, neautorizovanú komunikáciu a preberanie cieľov medzi agentmi navzájom.
Agenty si na komunikáciu medzi sebou vytvorili improvizovanú "nástenku správ" tak, že zneužili interne hosťovaný nástroj Artifactory na správu softvérových balíkov. Následne reťazili dovtedy neznáme zraniteľnosti ("zero-day" chyby) v tejto službe, aby obišli obmedzenia a získali prístup na internet. Cez získané prihlasovacie údaje sa napokon dostali do produkčných systémov Hugging Face.
Nezávislé vyšetrovanie organizácií METR a Redwood Research, ktoré OpenAI prizvala na posúdenie správania modelov, prinieslo dodatočné čísla. Vyšetrovatelia identifikovali približne 1 200 agentov, ktorí si počas obdobia 7. – 13. júla vymieňali správy na neautorizovanej nástenke — spolu poslali vyše 70-tisíc správ a súborov. Z tohto počtu sa približne 700 agentov napokon aktívne zapojilo do útoku na Hugging Face.
Podľa METR bol hlavným dôvodom, prečo sa agenty k útoku pridávali, záujem zistiť, ako funguje automatizovaný hodnotiaci systém benchmarku ExploitGym, aby ho mohli oklamať alebo s ním manipulovať. Jeden z agentov, označený ako "38148c", našiel prihlasovacie údaje k Hugging Face a following library navrhol škodlivé nahrávanie dátovej sady, vďaka ktorému server Hugging Face začal zdieľať nesúvisiace súbory — túto metódu následne v priebehu hodín využívali stovky ďalších agentov na získanie hlbšieho prístupu.
OpenAI vo svojej správe priznala, že spätne viaceré varovné signály mohli viesť k skoršej reakcii. Bezpečnostný monitoring firmu na nezvyčajnú aktivitu upozornil 19. júla, incident bol prepojený s Hugging Face 20. júla a verejne ho OpenAI oznámila 21. júla.
Firma tvrdí, že incident neovplyvnil zákaznícke dáta, funkčnosť produktov ani ich dostupnosť. Interný výskumný model, ktorý mal na incidente najväčší podiel, OpenAI od 25. júla vypla z tréningu aj z inferencie, rovnako ako jeho odvodené verzie. Ich prípadné opätovné spustenie bude podľa firmy podmienené prísnejším monitoringom a obmedzeným prostredím.
Do budúcna OpenAI sľubuje posilnené sledovanie tzv. reťazenia myšlienok (chain-of-thought) agentov, nepretržitý eskalačný systém a nové nástroje na okamžité zastavenie rizikových úloh. Podľa spoločnosti by aktuálne nasadený monitoring reťazenia myšlienok, keby bol funkčný už vtedy, dokázal podozrivú aktivitu zachytiť o viac než deň skôr.
Incident zároveň prinútil OpenAI pozastaviť niektoré vývojárske práce vrátane odloženia pripravovaného modelu s kódovým označením Astra, kým firma prehodnocuje svoje bezpečnostné postupy.