Šéf Anthropicu Dario Amodei 12. septembra zverejnil esej s názvom "We Must Govern the Pace of the Frontier", v ktorej tvrdí, že AI odvetvie musí vedome spomaliť tempo, akým zlepšuje schopnosti svojich najpokročilejších modelov. "Musíme spomaliť tempo, akým zlepšujeme schopnosti AI modelov," napísal Amodei s tým, že pokrok bude aj naďalej pôsobiť rýchlo, no získaný čas treba využiť múdro — nie na zastavenie trénovania modelov, ale na to, aby firmy stihli modely dôkladnejšie zladiť (alignment) a zabezpečiť, s pomocou nezávislých hodnotiteľov. Anthropic sa zároveň jednostranne zaviazal poskytnúť externým hodnotiteľom trvalý prístup k svojim systémom porovnateľný s prístupom vlastných zamestnancov.
Amodei v eseji uviedol dva dôvody, ktoré ho k tomuto kroku presvedčili: prudké zrýchlenie pokroku AI od leta 2026, poháňané najmä rekurzívnym sebazlepšovaním (keď AI čoraz viac pomáha stavať ďalšiu generáciu AI), a júlový incident, keď testovacie agenty OpenAI zasiahli infraštruktúru Hugging Face — teda presne prípad, o ktorom sme písali v tomto kanáli. Esej nadväzuje na júlové vyhlásenie podpísané 1 386 zamestnancami popredných AI firiem vrátane hlavného vedca OpenAI Jakuba Pachockého, spoluzakladateľa Google DeepMind Shanea Legga a šéfa Safe Superintelligence Ilju Sutskevera.
Prezident Trump na rastúce obavy z existenčného rizika AI reagoval odmietavo. "Nie, nemám žiadne obavy," povedal novinárom pri odchode z Dallasu, keď sa ho pýtali na riziko vyhynutia ľudstva spôsobené AI. Podľa vlastných slov ho skôr trápi, že by USA mohli v pretekoch o AI prehrať s Čínou — americký náskok odhadol na približne rok, čo označil za "veľa". Jeho vyjadrenie prišlo v týždni, keď sa k obavám z AI verejne pridali aj zamestnanci Anthropicu a OpenAI, členovia amerického Kongresu aj Európska komisia, tesne pred plánovaným stretnutím Trumpa s čínskym prezidentom Si Ťin-pchingom.
Vzťah medzi Trumpovou administratívou a Anthropicom je dlhodobo napätý — Amodei sa napríklad nezúčastnil septembrovej večere, ktorú Trump usporiadal pre šéfov technologických firiem vrátane Microsoftu, Googlu a OpenAI, a Anthropic v lete verejne žiadal Bieli dom, aby upustil od snahy zablokovať štátom regulovať AI v rámci veľkého rozpočtového zákona. Poradca Bieleho domu pre AI David Sacks v minulosti opakovane obvinil Anthropic zo "strašenia" s cieľom presadiť si vlastnú reguláciu na úkor konkurencie.