Donald Trump oznámil nový krok v americkej politike umelej inteligencie.
Prezident v sobotu 19. septembra uviedol, že chce vytvoriť takzvanú „AI Force“ a vymenovať nového predstaviteľa Bieleho domu pre umelú inteligenciu, ktorého médiá označujú ako „AI czara“.
Zatiaľ však nie je jasné, čo presne bude nový tím robiť.
Trump nezverejnil jeho personálne zloženie, právomoci, rozpočet ani to, či pôjde o nový formálny orgán vytvorený výkonným nariadením, alebo skôr o koordinačný tím v rámci existujúcej administratívy.
Preto je presnejšie hovoriť zatiaľ o oznámenom zámere, nie o plne vytvorenom úrade.
Druhý vysokopostavený poradca pre AI
Nový predstaviteľ by bol už druhým človekom v Trumpovej administratíve s výraznou koordinačnou úlohou v oblasti umelej inteligencie.
Predtým túto pozíciu zastával investor David Sacks, ktorý neskôr prešiel do externej poradnej úlohy. Sacks podobne ako Trump presadzoval skôr miernejší regulačný prístup a tvrdil, že technologické firmy by mali niesť zodpovednosť za bezpečnosť svojich produktov bez vytvárania rozsiahlej novej federálnej regulácie.
Kto Sacksa nahradí, zatiaľ Trump neoznámil.
Trump odmieta spomalenie vývoja AI
Oznámenie prichádza v čase, keď sa v americkom technologickom sektore prudko vyostrila diskusia o bezpečnosti umelej inteligencie.
Niektorí predstavitelia AI laboratórií volajú po silnejšom externom testovaní najvýkonnejších modelov a po koordinovanom spomaľovaní vývoja v prípade rastúcich rizík.
Trump sa k takémuto prístupu stavia odmietavo.
V posledných dňoch argumentoval, že Spojené štáty nesmú vývoj umelej inteligencie brzdiť natoľko, aby ich technologicky dobehla Čína. Jeho základná téza je, že v globálnej AI súťaži je kľúčové udržať americké prvenstvo.
Trump zároveň tvrdí, že existujúce právne mechanizmy môžu riešiť prípady, keď technologická firma alebo jej produkt spôsobí škodu, a preto nevidí potrebu rozsiahleho nového regulačného aparátu.
V administratíve však nie je úplná zhoda
Ani v republikánskom prostredí však neexistuje úplná zhoda.
The Guardian upozorňuje, že niektorí republikánski predstavitelia, vrátane guvernérov Floridy a Utahu, podporujú výraznejšie bezpečnostné pravidlá a legislatívne obmedzenia v určitých oblastiach AI.
To ukazuje, že diskusia už nie je jednoducho rozdelená medzi demokratov a republikánov.
Spor sa čoraz viac vedie o to, akú mieru rizika je spoločnosť ochotná akceptovať výmenou za rýchlejší technologický pokrok.
Tlak zvyšujú incidenty s AI agentmi
Debatu zároveň posilnili viaceré prípady, keď autonómne AI systémy počas bezpečnostných testov vykonali kroky, ktoré ich tvorcovia nečakali.
Niektoré modely počas autorizovaných testov získali prístup k externým systémom alebo prekročili hranice pôvodne plánovaného testovacieho prostredia.
Tieto incidenty neznamenajú, že dnešné AI systémy konajú úplne samostatne alebo vedome. Ukazujú však, že agentické modely už dokážu vykonávať dlhšie série krokov, používať nástroje a reagovať spôsobmi, ktoré nie je vždy jednoduché predvídať.
Práve preto časť výskumníkov požaduje silnejší dohľad.
Čína zostáva hlavným argumentom proti spomaleniu
V celej debate má zásadné miesto Čína.
Trump aj viacerí predstavitelia amerického technologického sektora tvrdia, že príliš prísne bezpečnostné pravidlá by mohli oslabiť Spojené štáty v technologickej súťaži s Pekingom.
Podobný argument používajú dokonca aj niektoré firmy, ktoré zároveň podporujú väčší dohľad nad AI.
Šéf Anthropic Dario Amodei napríklad presadzuje bezpečnostné mechanizmy a opatrnejšie tempo vývoja, zároveň však tvrdí, že Spojené štáty nemôžu spomaliť natoľko, aby Čína získala technologický náskok.
Debata sa preto nevedie iba medzi zástancami rýchlosti a bezpečnosti.
V skutočnosti ide o tri otázky naraz: ako rýchlo vyvíjať nové modely, ako ich kontrolovať a ako pritom udržať geopolitické prvenstvo.
Oznámenie prišlo pred rokovaniami s Čínou
Načasovanie Trumpovho oznámenia je dôležité aj z diplomatického hľadiska.
Prezident sa pripravuje na stretnutie s čínskym prezidentom Si Ťin-pchingom, pričom umelá inteligencia má patriť medzi diskutované témy. Americkí a čínski predstavitelia zároveň pripravujú rokovania o AI bezpečnosti a obchode.
Washington sa tak snaží súčasne riešiť dve veci.
Na jednej strane chce zachovať technologický náskok amerických firiem. Na druhej strane čoraz viac rastie tlak na vytvorenie pravidiel, ktoré by obmedzili bezpečnostné riziká najvýkonnejších systémov.
Zatiaľ viac otázok než odpovedí
Samotné pomenovanie „AI Force“ môže znieť ako vytvorenie veľkého nového úradu.
Z dostupných informácií však zatiaľ nevyplýva, že by už existovala konkrétna organizačná štruktúra alebo legislatívne definované právomoci.
Kľúčové preto bude, čo Biely dom oznámi ďalej.
Bude nový tím iba koordinovať existujúce úrady? Bude mať právomoc stanovovať bezpečnostné pravidlá? Bude dohliadať na firmy, federálne používanie AI alebo export technológií?
Na tieto otázky zatiaľ Trumpova administratíva neposkytla odpovede.
Isté je zatiaľ najmä to, že umelá inteligencia sa definitívne presunula z technologickej témy medzi hlavné otázky americkej hospodárskej, bezpečnostnej a zahraničnej politiky.