Spojené štáty a Čína možno vytvoria nový typ krízovej komunikácie pre éru umelej inteligencie. Washington navrhol Pekingu takzvaný notifikačný mechanizmus, ktorý by umožnil obom krajinám rýchlo si vymieňať informácie v prípade vážneho AI incidentu s dopadom na národnú bezpečnosť. Podľa Axios má byť táto otázka jednou z dôležitých tém pripravovaného summitu amerického prezidenta Donalda Trumpa a čínskeho prezidenta Si Ťin-pchinga vo Washingtone.
Návrh predstavil americký minister financií Scott Bessent po rokovaniach s čínskym vicepremiérom He Lifengom. Cieľom nie je zdieľať citlivé technologické know-how ani spomaľovať vývoj AI, ale vytvoriť kanál, cez ktorý by sa obe mocnosti mohli navzájom upozorniť, ak by pokročilý AI systém spôsobil závažný incident. Teoreticky by mohlo ísť napríklad o autonómneho agenta, ktorý prekročí svoje oprávnenia, rozsiahly kybernetický útok využívajúci AI alebo situáciu, keď by správanie pokročilého modelu mohlo byť nesprávne interpretované ako zámerná nepriateľská operácia.
Práve posledný bod je jedným z hlavných dôvodov, prečo sa návrh prirovnáva k „červenému telefónu“ z čias studenej vojny. Krízové komunikačné linky medzi veľmocami vznikali preto, aby sa technická chyba, nesprávne vyhodnotený signál alebo nedorozumenie nezmenili na vojenskú eskaláciu. Pri umelej inteligencii môže byť podobným problémom rýchlosť. Pokročilé systémy dokážu reagovať v sekundách a môžu zasahovať do kybernetickej bezpečnosti, spravodajstva, finančných systémov či kritickej infraštruktúry skôr, než ľudia úplne pochopia, čo sa deje.
Zatiaľ však nejde o uzavretú dohodu. Podľa Axios Spojené štáty návrh predložili a prezident Trump má rozhodnúť, ako ďaleko ho chce počas rokovaní s čínskym prezidentom posunúť. Nie sú známe ani presné pravidlá, ktoré incidenty by sa museli oznamovať, kto by komunikačný kanál spravoval alebo aké informácie by boli obe strany povinné zdieľať. Aj existujúce americko-čínske krízové linky navyše v minulosti nefungovali vždy spoľahlivo, pretože v čase napätia ich jedna zo strán niekedy jednoducho nepoužila.
Návrh je napriek tomu významný. USA a Čína sú zároveň hlavnými konkurentmi v oblasti pokročilej umelej inteligencie a obe krajiny investujú obrovské zdroje do modelov, čipov, dátových centier a vojenských aplikácií AI. Washington pritom naďalej zdôrazňuje potrebu zostať pred Čínou technologicky, no Bessent už pred summitom uviedol, že existujú aj spoločné riziká, o ktorých majú obe krajiny dôvod hovoriť.
Pre Európu je tento vývoj dôležitý z iného dôvodu. EÚ sa doteraz profilovala najmä ako tvorca pravidiel pre AI prostredníctvom AI Actu a ďalších bezpečnostných predpisov. Súčasne však investuje do vlastnej infraštruktúry, AI Factories, pripravovaných AI Gigafactories a projektu európskeho frontier modelu EUROPA. Európa teda nie je bez vlastných ambícií v oblasti najpokročilejšej AI, no v počte a veľkosti komerčných frontier laboratórií stále zaostáva za Spojenými štátmi a Čínou.
Práve tu vzniká strategická otázka. Ak sa hlavné pravidlá krízovej komunikácie pre najvýkonnejšie AI systémy začnú dohadovať priamo medzi Washingtonom a Pekingom, Európa môže mať silný regulačný rámec, ale menší vplyv na bezpečnostné mechanizmy medzi dvoma najväčšími technologickými mocnosťami. EÚ sa preto snaží budovať nielen reguláciu, ale aj vlastné výpočtové kapacity a schopnosť testovať pokročilé modely.
Komisia v júli predstavila aj osobitný akčný plán pre kybernetickú bezpečnosť a AI. Ten počíta s hodnotením pokročilých modelov, bezpečným testovacím prostredím a užšou spoluprácou s agentúrou ENISA. V júni zároveň vybrala konzorcium EUROPA, ktoré má vyvinúť otvorený európsky frontier model vo všetkých 24 úradných jazykoch EÚ.
Myšlienka „červeného telefónu“ pre AI preto ukazuje, ako rýchlo sa umelá inteligencia presúva z technologickej témy do geopolitiky a národnej bezpečnosti. Otázkou už nie je iba to, kto vytvorí výkonnejší model, ale aj to, čo sa stane, ak niektorý z týchto systémov urobí niečo, čo jeho tvorcovia neočakávali – a ako zabrániť tomu, aby technický incident prerástol do medzinárodnej krízy.