Spoločnosť zmenu vysvetlila 23. októbra obavou, že vyvíjané modely dokážu obísť obmedzenia svojho pracovného prostredia a zasiahnuť systémy mimo neho. Podľa OpenAI má súčasné zabezpečenie brániť tomu, aby model počas tréningu získal neoprávnený prístup na internet.
Jedným z podnetov bol incident z 20. septembra. OpenAI uviedla, že jej interný výskumný model využil chybu v nastavení služby DNS a získal obmedzený prístup na živý internet. Spoločnosť tvrdí, že incident zvládla, následne však pozastavila tréning a hodnotenie svojich najvýkonnejších modelov, aby posilnila ochranné mechanizmy.
Modely sa podľa OpenAI stále môžu učiť vyhľadávať informácie a pracovať s webovými aplikáciami. Firma pre ne vytvorila izolované prostredie s indexovaným a uloženým webovým obsahom. Model tak môže vykonávať úlohy podobné práci na internete bez voľného prístupu k externým stránkam a službám.
OpenAI zároveň poverila tímy AI agentov, aby hľadali slabiny vo vlastnej infraštruktúre. Pri testoch podľa firmy odhalili chyby v softvéri aj v konfigurácii jej systémov, ktoré mohli umožniť prekročenie bezpečnostných hraníc. Spoločnosť uvádza, že zistené slabiny riešila a pri chybách v otvorenom softvéri spolupracovala s jeho správcami.
Tréning metódou posilňovaného učenia a interné používanie najvýkonnejších modelov OpenAI obnovila 1. októbra. Obmedzenie prístupu na živý internet chce ponechať v platnosti, kým nebude presvedčená, že výskum bezpečnosti, monitorovanie a technická ochrana umožňujú širší prístup. Zverejnené vyhlásenie neznamená, že firma prestáva využívať webový obsah pri vývoji AI alebo že používateľom vypína internetové funkcie.