Jacob Coxon, výskumník, ktorý tri roky pôsobil na pretréningovom výskume najprv v OpenAI a neskôr v Anthropicu, minulý týždeň z Anthropicu odišiel a svoj odchod sprevádzal sériou príspevkov na sieti X. Obe firmy podľa neho konajú nezodpovedne: "Ženú sa priamo k sebazlepšujúcej sa superinteligencii a hazardujú s našimi životmi," napísal. Podľa Coxona ľudia, ktorí AI vyvíjajú, úprimne veria, že by mohla do konca desaťročia zabiť nás všetkých — pričom navonok používajú oveľa zdržanlivejší jazyk.
Jeho varovanie verejne podporil Evan Hubinger, vedúci tímu pre bezpečnosť zladenia (Alignment Science) priamo v Anthropicu. Hubinger uviedol, že podľa neho existuje viac než 10-percentná pravdepodobnosť, že AI spôsobí vyhynutie ľudstva v priebehu nasledujúcej dekády — súčasne však zdôraznil, že riziko zo súčasných modelov považuje za nízke. Jeho obavy sa týkajú najmä budúceho vzniku superinteligentných systémov schopných samostatne zlepšovať vlastnú inteligenciu, pričom podľa jeho slov Anthropic zatiaľ nemá jasný plán, ako takýto systém bezpečne udržať pod kontrolou. Samuel Marks, ktorý v Anthropicu vedie oblasť škálovateľného dohľadu, k tomu dodal, že obavy z rizika AI vo firmách rastú úmerne so seniority pozíciou — teda čím vyššie postavený človek, tým väčšmi sa obáva.
Prípad nie je izolovaný. Podobné obavy dlhodobo verejne vyjadrujú aj ďalšie významné mená v odbore — Geoffrey Hinton, nositeľ Nobelovej ceny označovaný za "krstného otca AI", odhaduje pravdepodobnosť vyhynutia ľudstva pôsobením AI na 10 až 20 percent, Elon Musk hovorí o až 20-percentnej pravdepodobnosti, a šéf samotného Anthropicu Dario Amodei minulý rok uviedol 25-percentnú šancu, že veci dopadnú "naozaj, naozaj zle".
Načasovanie Hubingerovho vyjadrenia vyvolalo aj vlastnú diskusiu — prichádza len pár týždňov pred očakávaným vstupom Anthropicu na burzu, ktorý by mohol firmu oceniť až na 2 bilióny dolárov. Časť komentátorov preto Hubingerov príspevok označila za komunikačný "trapas", iní naopak za vypočítaný spôsob, ako zvýšiť pozornosť práve pred IPO. Pre kontext tiež stojí za zmienku, že v júli 2026 došlo k incidentu, keď testovacie agenty OpenAI prenikli do infraštruktúry Hugging Face — čo časť komunity vníma ako "varovný výstrel" týkajúci sa reálnych ťažkostí s udržaním autonómnych systémov pod kontrolou.
Debata sa premietla aj do politiky: americkí zákonodarcovia predstavili tzv. AI Kill Switch Act, ktorý by Kongresu dal právomoc vypnúť modely považované za nebezpečné, zatiaľ čo britskí poslanci zvažujú zákon, ktorý by priamo zakazoval vývoj umelej superinteligencie.
Pre bežného čitateľa je dôležité vnímať tieto čísla ako subjektívne odhady pravdepodobnosti od konkrétnych ľudí, nie ako vedecky overený fakt alebo dôkaz existencie takéhoto systému už dnes — ide o predpovede a rizikové odhady popredných výskumníkov v odbore, ktorí sa v presných číslach aj v tom, ako veľmi je dôvod na obavy, navzájom líšia.