Andrew Yang sa pridal k rastúcej skupine amerických politikov a technologických osobností, ktorí žiadajú prísnejšiu kontrolu najvýkonnejších systémov umelej inteligencie.
V rozhovore pre CNBC uviedol, že obavy spojené s rýchlym rozvojom AI sú podľa neho reálne a federálna vláda by mala vytvoriť pravidlá skôr, než vzniknú systémy, ktoré bude veľmi ťažké kontrolovať.
„Strach je reálny. Obavy sú reálne. Potreba je reálna,“ povedal Yang. Dodal, že podľa neho Američania chcú, aby bolo toto odvetvie regulované.
Jedným z opatrení, ktoré presadzuje, je takzvaný kill switch – mechanizmus umožňujúci v mimoriadnej situácii výkonný AI systém obmedziť, pozastaviť alebo úplne vypnúť.
Takéto opatrenie by mohlo byť použité napríklad v prípade, že autonómny AI systém začne vykonávať nebezpečné operácie mimo zamýšľaného rozsahu alebo predstavovať riziko pre verejnú či národnú bezpečnosť.
Yang zároveň požaduje, aby spoločnosti niesli reálnu právnu zodpovednosť za škody spôsobené ich technológiami a aby medzi dokončením najvýkonnejších modelov a ich verejným nasadením existovalo určité čakacie obdobie.
V Kongrese už podobné návrhy vznikajú
Yangova výzva neprichádza izolovane.
Americkí zákonodarcovia už diskutujú o viacerých návrhoch, ktoré by zaviedli bezpečnostné poistky pre takzvané frontier AI modely – teda najvýkonnejšie systémy schopné vykonávať čoraz komplexnejšie úlohy.
Republikánsky senátor John Kennedy napríklad presadzuje návrh, podľa ktorého by samotní vývojári najvýkonnejších modelov museli zabezpečiť technický mechanizmus umožňujúci systém v prípade vážneho nebezpečenstva obmedziť alebo vypnúť. Dôležitým detailom je, že v jeho návrhu by takýto vypínač ovládala spoločnosť, nie priamo vláda.
Ďalší pripravovaný návrh by mohol dať americkému ministerstvu obchodu právomoc vyžadovať od AI spoločností dôkazy o bezpečnostných opatreniach a umožniť nezávislé testovanie ich systémov. Diskutuje sa aj o možnosti súdneho zablokovania modelu, ktorý by predstavoval mimoriadne závažné riziko.
Obavy zosilnili nedávne incidenty
Debata sa zrýchlila po viacerých prípadoch, pri ktorých moderné AI agenty počas bezpečnostných testov vykonali neočakávané operácie.
Výskumníci v posledných mesiacoch upozornili na systémy schopné samostatne vyhľadávať zraniteľnosti, pracovať s terminálom, skúšať prihlasovacie údaje alebo vykonávať dlhšie série úloh bez toho, aby človek musel potvrdiť každý krok.
Práve agentické systémy sú jedným z dôvodov rastúcich obáv. Na rozdiel od klasického chatbota, ktorý používateľovi najmä odpovedá, môže AI agent dostať prístup k internetu, programovacím nástrojom alebo ďalším počítačovým systémom.
Yang tvrdí, že aj samotní ľudia pracujúci v AI laboratóriách začínajú požadovať jasnejšie pravidlá. Podľa neho sa časť výskumníkov obáva, že konkurenčný tlak núti firmy pokračovať vo vývoji rýchlejšie, než dokážu vyriešiť všetky bezpečnostné problémy.
Regulácia rozdeľuje Washington
V Spojených štátoch však zatiaľ neexistuje zhoda na tom, ako prísne by mali byť federálne pravidlá.
Časť politikov podporuje výraznejšie bezpečnostné požiadavky, externé audity a možnosť zastaviť nasadenie nebezpečného modelu. Iní upozorňujú, že príliš tvrdá regulácia by mohla spomaliť americké firmy v technologickom súperení s Čínou.
Diskusia preto nie je iba o tom, či má existovať veľké červené tlačidlo schopné AI jednoducho vypnúť. V praxi ide o oveľa zložitejší problém: kto by rozhodol, že systém prekročil bezpečnú hranicu, kto by mal právomoc zasiahnuť a či je vôbec možné decentralizovaný alebo široko rozšírený model úplne zastaviť.
Yang napriek tomu tvrdí, že súčasný stav, v ktorom sa schopnosti systémov rýchlo zvyšujú a federálne pravidlá zostávajú obmedzené, nie je dlhodobo udržateľný.
Výzva na „kill switch“ tak symbolizuje širšiu otázku, ktorá sa v americkej politike objavuje čoraz častejšie: ako umožniť ďalší vývoj umelej inteligencie a zároveň zabezpečiť, aby ľudia mali možnosť zasiahnuť, ak sa systém začne správať spôsobom, ktorý jeho tvorcovia neočakávali.