Eurokomisárka pre technologickú suverenitu, bezpečnosť a demokraciu Henna Virkkunen dlhodobo presadzuje myšlienku, že pravidlá EÚ pre umelú inteligenciu (AI Act) by mali slúžiť ako vzor pre globálnu reguláciu — v ostatných týždňoch opakovane uviedla, že EÚ o tejto téme diskutuje aj v rámci skupiny G7 s partnermi vrátane USA. Podľa nej sa Európa a Spojené štáty napriek odlišným prístupom — Európa reguláciou vopred, USA skôr cez súdne rozhodnutia a štátne zákony — napokon dostávajú k veľmi podobným záverom v otázkach bezpečnosti AI.
Výzva na globálne pravidlá prichádza v týždni, keď rezignoval 27-ročný výskumník Jacob Coxon, ktorý predtým pôsobil v OpenAI aj Anthropic. Coxon v utorok vo virálnom vlákne na sociálnych sieťach napísal, že ani jedna z týchto dvoch firiem podľa neho nekoná zodpovedne a obe smerujú priamo k vytvoreniu sebazdokonaľujúcej sa superinteligencie. Tvrdil tiež, že kolegovia v odvetví si súkromne myslia, že by technológia mohla "zabiť nás všetkých" do konca desaťročia, zatiaľ čo vedenie firiem na verejnosti svoj jazyk zmierňuje. Jeho varovanie opísal ako "hazard postavený na nadmernej sebadôvere, ktorý by nemal byť spúšťaný zo Slacku súkromnej firmy".
Reakcie na Coxonovo varovanie sa v priebehu týždňa výrazne líšili. Kým hlavný technologický riaditeľ amerického ministerstva obrany Emil Michael varovanie verejne odmietol a označil ho za "strach z dátových centier a zo zmeny, ktorý sa spojil do jedného dobre napísaného tweetu", vysoký komisár OSN pre ľudské práva Volker Türk len o pár dní skôr vo svojom prejave uviedol, že zdieľa obavy predstaviteľov odvetvia, podľa ktorých by pokročilá AI mohla predstavovať existenčné riziko pre ľudstvo.
Samotný AI Act EÚ sa na vojenské a bezpečnostné využitie AI nevzťahuje vôbec — čo v poslednom čase vyvolalo napätie napríklad v súvislosti so sporom medzi Anthropic a americkým ministerstvom obrany. EÚ zároveň v auguste získala nové právomoci na kontrolu AI modelov, obmedzenie prístupu na trh EÚ a udeľovanie pokút poskytovateľom modelov až do výšky 15 miliónov eur alebo 3 % ročného obratu firmy — podľa Reuters je EÚ v kontakte s OpenAI aj Anthropic práve v súvislosti s nedávnymi kybernetickými incidentmi ich modelov.
Dôležité upresnenie: Priame prepojenie medzi dnešným vyjadrením EÚ a konkrétne Coxonovým varovaním z tohto týždňa som nedokázal potvrdiť v nezávislom zdroji nad rámec tvojho zadania — obe témy (dlhodobé volanie EÚ po globálnych AI pravidlách a Coxonova rezignácia) sú však samostatne dobre zdokumentované a časovo sa prekrývajú.