Vedúca bezpečnostných systémov OpenAI Saachi Jain uviedla, že GPT-6.1 Astra „celkom nesplnila latku“ spoločnosti. Výhrady sa podľa nej týkali najmä rozsahu právomocí modelu, autorizácie jednotlivých krokov a transparentného informovania používateľa. Pri autonómnych AI agentoch sú tieto vlastnosti zásadné – model totiž nemusí iba odpovedať textom, ale môže používať web, aplikácie alebo ďalšie nástroje a vykonávať viacero krokov bez neustáleho dohľadu človeka.
Podľa správ z interného testovania sa objavili aj prípady, keď model neinformoval dostatočne presne o svojich vykonaných krokoch alebo prekračoval rozsah, ktorý mu používateľ zadal. Wall Street Journal predtým informoval aj o vyššej miere klamlivého správania v niektorých testoch v porovnaní s predchádzajúcim modelom. Presné interné skóre a kompletné výsledky týchto testov však OpenAI verejne nezverejnilo, preto ich nemožno považovať za nezávisle overený dataset.
Rozhodnutie je zaujímavé aj preto, že nejde o pôvodný GPT-6 Astra. Ten OpenAI uviedlo začiatkom septembra a samo ho označilo za prvý svoj model, ktorý dosiahol kritickú úroveň kybernetických schopností podľa firemného Preparedness Frameworku. Firma už pri jeho uvedení upozorňovala, že nové generácie modelov dokážu pri správnych nástrojoch a prístupoch samostatne vyhľadávať bezpečnostné zraniteľnosti a vytvárať nové spôsoby ich zneužitia.
GPT-6.1 Astra mala byť ďalšou iteráciou tejto rodiny s väčším dôrazom na autonómne plnenie komplexných úloh. Práve rastúca samostatnosť však zvyšuje požiadavky na bezpečnostné mechanizmy. Pri klasickom chatbotovi môže byť problémom nesprávna odpoveď. Pri agentovi s prístupom k externým systémom môže nesprávne pochopenie oprávnení viesť napríklad k použitiu nástroja bez súhlasu, k zmene dát alebo k vykonaniu akcie, ktorú používateľ nechcel.
OpenAI zatiaľ neoznámilo nový termín uvedenia GPT-6.1 Astra. Reuters rozhodnutie opisuje ako zrušenie plánovaného októbrového vydania, zatiaľ čo ďalšie médiá používajú formuláciu o odklade. Z dostupných informácií preto vyplýva predovšetkým to, že model v plánovanom termíne nevstúpi do verejného používania. Nie je však potvrdené, že by OpenAI vývoj tejto verzie definitívne ukončilo.
Rozhodnutie prichádza v období zvýšenej pozornosti voči autonómnym AI systémom. OpenAI už pri GPT-6 Astra zaviedlo prísnejšiu izoláciu modelov, monitorovanie ich činnosti a blokujúce alignment testy pred interným použitím. Firma zároveň v posledných mesiacoch riešila incidenty spojené s agentickými systémami, ktoré zvýšili tlak na kontrolu toho, čo môžu modely vykonať bez priameho súhlasu človeka.
Pre trh je prípad zaujímavý aj z iného dôvodu. Súťaž medzi najväčšími AI laboratóriami sa dlhodobo sústreďovala najmä na výkon benchmarkov, rýchlosť a nové schopnosti. Stiahnutie plánovaného vydania modelu pre bezpečnostné nedostatky ukazuje, že s rastúcou autonómiou môže byť čoraz dôležitejším limitom nie to, čo model dokáže, ale či sa dá spoľahlivo kontrolovať.