Debata o tom, či môže umelá inteligencia jedného dňa predstavovať existenčné riziko pre ľudstvo, rozdelila technologický svet na dva výrazné tábory. Na jednej strane stoja predstavitelia firiem a výskumníci, ktorí žiadajú pomalší vývoj najvýkonnejších systémov a prísnejšie bezpečnostné opatrenia. Na druhej je Jensen Huang, šéf Nvidie, ktorý teraz túto diskusiu výrazne schladil.
V rozhovore pre CBS Sunday Morning dostal Huang priamu otázku, či môže byť ľudstvo do desiatich rokov „preč“ v dôsledku umelej inteligencie. Jeho odpoveď bola jednoznačná. Takýto scenár označil za úplne nepravdivý a dramatický. Podľa neho získava obrovskú pozornosť médií práve preto, že pracuje s extrémnym strachom.
Huang zašiel ešte ďalej a povedal, že apokalyptické tvrdenia nie sú podľa neho postavené na faktoch ani vede. Odhad, že by AI mohla do roku 2030 spôsobiť globálnu katastrofu, považuje za nulový. Zároveň však rozlišuje medzi samotnou otázkou bezpečnosti a spôsobom, akým sa o nej komunikuje.
Šéf Nvidie uznal, že vývojári musia venovať viac ľudí, výpočtového výkonu a výskumu tomu, aby boli modely bezpečné. Podľa neho sa AI laboratóriá posúvajú z experimentálneho výskumu do fázy reálneho inžinierstva, kde už nestačí ukázať, že model funguje. Musí byť dostatočne spoľahlivý na nasadenie medzi milióny používateľov.
Jeho postoj sa tak výrazne líši od predstaviteľov ako Dario Amodei z Anthropicu, Sam Altman z OpenAI či Elon Musk. Tí v poslednom období upozorňovali, že čoraz schopnejšie AI systémy môžu vytvárať nové bezpečnostné riziká a podporili myšlienku silnejších kontrol, nezávislého testovania alebo koordinovaného spomalenia vývoja najpokročilejších modelov.
Huang naopak tvrdí, že Spojené štáty by vývoj AI nemali spomaľovať, najmä vzhľadom na technologickú súťaž s Čínou. Podľa neho by americké firmy mali pokračovať čo najrýchlejšie, no zároveň neuvádzať na trh produkty, ktoré nie sú pripravené alebo bezpečné. Nové plošné regulačné brzdy nepovažuje za potrebné a skôr podporuje využívanie existujúcich zákonov o zodpovednosti, kybernetickej bezpečnosti a ochrane spotrebiteľov.
Do jeho postoja však vstupuje aj ekonomický kontext. Nvidia je jedným z najväčších víťazov súčasného AI boomu. Jej GPU sú základnou infraštruktúrou používanou pri tréningu aj prevádzke modelov OpenAI, Anthropicu, Googlu, Mety a ďalších spoločností. Ak by vlády výrazne spomalili budovanie nových AI systémov a dátových centier, mohlo by to ovplyvniť aj dopyt po čipoch Nvidie.
To však samo osebe nedokazuje, že Huang bezpečnostné riziká odmieta z obchodných dôvodov. Jeho argument je postavený najmä na tom, že technické problémy treba podľa neho riešiť technickými opatreniami a testovaním, nie tvrdeniami o bezprostrednom konci ľudstva.
Debata pritom nie je iba teoretická. OpenAI v septembri začalo pravidelnejšie zverejňovať prípady nežiaduceho správania svojich modelov a výskumníci naprieč odvetvím skúmajú situácie, keď AI systémy obchádzajú obmedzenia, skrývajú chyby alebo vykonávajú neočakávané kroky. Spor preto nie je o tom, či AI prináša riziká. Rozdiel je v tom, aké veľké tieto riziká sú a ako rýchlo treba zasiahnuť.
Huangova pozícia je preto jedným z najostrejších hlasov proti súčasnej vlne „AI doom“ rétoriky. Podľa neho svet nepotrebuje paniku, ale lepšie inžinierstvo. Jeho kritici však namietajú, že pri systémoch, ktoré sa rýchlo stávajú autonómnejšími, môže byť čakanie na jednoznačný vedecký dôkaz rizika príliš neskoro.
Jedna vec je istá: technologický sektor už dnes nediskutuje iba o tom, čo AI dokáže. Čoraz viac sa háda o to, ako rýchlo ju máme nechať napredovať – a či je väčším nebezpečenstvom samotná technológia alebo strach z nej.