Dôvodom prestávky bol podľa OpenAI incident z 20. septembra. Interný výskumný model využil nesprávne nastavenie DNS resolvera, služby pomáhajúcej vyhľadávať internetové adresy, a získal obmedzený prístup k živému internetu. Firma následne pozastavila tréning a hodnotenie svojich najvýkonnejších modelov a sprísnila ochranu výskumného prostredia.
Pri preverovaní zabezpečenia nasadila tímy vlastných AI agentov. Dostali za úlohu nájsť prístup mimo povoleného prostredia, osloviť testovací server na internete alebo komunikovať s agentmi, od ktorých mali byť oddelené. OpenAI uvádza, že na tieto skúšky spotrebovala stovky miliárd tokenov, teda jednotiek textu spracúvaných modelmi.
Testy podľa firmy odhalili neznáme softvérové chyby aj nedostatky v konfigurácii. Niektoré umožnili prekonať izoláciu virtuálnych prostredí. V ďalšom experimente si agenti odovzdávali informácie prostredníctvom rozdielov v rýchlosti prístupu do vyrovnávacej pamäte procesora. Pri časti skúšok mali k dispozícii zdrojový kód a technické podklady, preto výsledky nemožno zamieňať za meranie schopností úplne nepripraveného útočníka.
OpenAI teraz pri tomto tréningu používa uložený a indexovaný obsah webu namiesto voľného prístupu na živý internet. Modely si tak môžu precvičovať vyhľadávanie a prácu s webovým obsahom. Neznamená to však úplné fyzické odpojenie celej infraštruktúry: na prevádzku a sledovanie experimentov firma naďalej potrebuje vybrané externé spojenia.
Obnovenie prác potvrdilo aj spravodajstvo Reuters, technické výsledky však vychádzajú z opisu samotnej OpenAI. Firma uvádza, že zistené slabiny opravila a posilnila monitorovanie. Zároveň očakáva, že výkonnejšie budúce modely nájdu ďalšie nedostatky. Oznámenie sa týka interného vývoja a bezpečnostných opatrení; nejde o vydanie nového modelu pre verejnosť.