„AI needs to accelerate to be safe,“ povedal Huang v rozhovore pre The Ezra Klein Show, ktorý vyšiel v stredu 23. septembra. Vzápätí spresnil, že laboratóriá by podľa neho mali získať viac výpočtového výkonu, ale väčšiu časť nasmerovať na hodnotenie a zosúlaďovanie systémov. Rozhovor sa opäť šíri v sobotu, jeho zverejnenie však nie je novou udalosťou z posledných hodín.
Hodnotenie, často označované anglickým slovom evaluation, znamená skúšanie toho, čo model dokáže, kde zlyháva a ako sa správa v rizikových situáciách. Zosúlaďovanie alebo alignment sa usiluje o to, aby systém pri plnení úloh rešpektoval zamýšľané hranice. Huangova požiadavka teda nesmeruje iba k výkonnejším modelom: tvrdí, že spolu s ich schopnosťami sa musia rozvíjať aj nástroje na kontrolu ich správania.
Ako príklad použil vývoj bezpečnosti automobilov. Podľa Huanga dnešné autá chránia ľudí lepšie aj vďaka technológiám, ktoré pred desaťročiami neexistovali. Podobný pokrok očakáva pri AI. Je to však prirovnanie, nie overená predpoveď: pri pokročilých modeloch zostáva otvorenou otázkou, či ich tvorcovia dokážu nové schopnosti testovať a kontrolovať dostatočne rýchlo.
Huang zároveň povedal, že firmy by nemali uvádzať na trh produkty, ktoré nevedia vyhodnotiť alebo udržať pod kontrolou. Bezpečnosť považuje predovšetkým za technický problém, ktorý majú vývojári riešiť testovaním, zabezpečením a opravami. Ezra Klein v rozhovore namietal, že pri posudzovaní rizík nemožno automaticky dôverovať samotným firmám, ktoré súťažia o zákazníkov a investície.
Vyjadrenie má váhu aj preto, že Nvidia dodáva čipy a ďalšiu infraštruktúru používanú pri vývoji AI. Väčšie výdavky laboratórií na výpočtový výkon môžu byť zároveň obchodne výhodné pre spoločnosť, ktorú Huang vedie. Jeho návrh preto treba čítať ako stanovisko významného účastníka trhu, nie ako nezávislý záver o tom, aké tempo vývoja je bezpečné.
Pre používateľov a firmy v Európe je podstatná praktická časť sporu: či sa testovanie AI stane rovnako dôležitou súčasťou vývoja ako zlepšovanie jej schopností. Huang v rozhovore neoznámil novú bezpečnostnú technológiu ani záväzný postup pre celé odvetvie. Pomenoval spôsob, akým by podľa neho mali laboratóriá využiť rastúci výpočtový výkon.