OpenAI v utorok na konferencii Hot Chips zverejnilo detailný pohľad na svoj prvý vlastný AI čip Jalapeño vrátane prvej dávky benchmarkových výsledkov. Testy prebehli na verejnom benchmarku InferenceX od analytickej firmy SemiAnalysis, ktorý meria celý proces spracovania AI požiadavky od začiatku do konca. Podľa Richarda Ho, šéfa hardvéru v OpenAI, výsledky ukazujú „veľmi, veľmi výrazný pokrok vo výkone oproti súčasnému stavu techniky" – čip dokáže obslúžiť viac AI práce na jednotku energie a zároveň vracia odpovede rýchlejšie.
Testovanie prebehlo na troch verejne dostupných modeloch – GPT-OSS 120B, DeepSeek R1 670B a Kimi K2.5 1T. V porovnaní so systémami Nvidia Blackwell (konkrétne GB200 a GB300) dosiahol Jalapeño 1,5 až 1,9-násobne viac „AI práce" na watt a 1,7 až 3,6-násobne nižšiu latenciu od začiatku do konca spracovania. Pri vysoko interaktívnych úlohách sa rozdiel v rýchlosti zväčšil až na 2,1 až 4,1-násobok. Na modeli GPT-OSS dosiahol čip približne 1 400 tokenov za sekundu na používateľa, pri DeepSeek R1 prekonal 700 tokenov za sekundu pri jednej súbežnej požiadavke. Pri porovnateľnej rýchlosti dekódovania dosiahol Jalapeño podľa niektorých meraní až 54- až 104-násobne vyššiu priepustnosť tokenov na kilowatt oproti najlepšiemu dostupnému akcelerátoru, v závislosti od konkrétneho modelu.
Dôležité je, že tieto výsledky Jalapeño dosiahol bez použitia pokročilých optimalizačných techník ako multi-token prediction alebo speculative decoding, zatiaľ čo niektoré porovnávané systémy tieto techniky využívali – podľa SemiAnalysis tak zostáva priestor na ďalšie zlepšenie. Analytická firma zároveň upozorňuje, že spravodlivejším porovnaním by mohla byť skôr novšia platforma Nvidia Vera Rubin než Blackwell, keďže obe využívajú pamäť HBM4. Aj v tomto porovnaní však Jalapeño dosahuje viac výstupných tokenov na megawatt než Vera Rubin, hoci Nvidia v tomto systéme multi-token prediction už využíva. Z hľadiska celkových nákladov na token (TCO) vychádzajú oba systémy podľa doterajších dát približne vyrovnane.
Podľa SemiAnalysis ide o mimoriadny výsledok, keďže prvé generácie vlastných čipov firiem bývajú spravidla nekonkurencieschopné – Jalapeño podľa analytikov „prekonáva každý čip Nvidia, AMD aj Google, ktorý sa nám podarilo otestovať na viacerých top open-source modeloch". Dôležité obmedzenie však je, že všetky čísla poskytla samotná spoločnosť OpenAI – SemiAnalysis časť behov overila priamo na mieste v laboratóriu, no nevykonala kompletnú sadu testov InferenceX ani nemá k dispozícii výsledky z náročnejšej sady testov AgentX, ktorá lepšie odráža reálne produkčné zaťaženie s dlhým kontextom a viacerými kolami konverzácie.
Jalapeño bolo prvýkrát oznámené vo verzii pre verejnosť 24. júna 2026, vyvíjané je od polovice roka 2024 v úzkej spolupráci s Broadcomom a systémovým integrátorom Celestica, pričom finálny dizajn čipu smeroval do výroby v novembri 2025 – vývoj tak trval približne deväť mesiacov od návrhu po tapeout. Podľa OpenAI pri vývoji čipu asistovali aj vlastné AI modely spoločnosti, ktoré pomáhali s optimalizáciou a programovaním hardvéru. Ide o aplikačne špecifický obvod (ASIC) určený výhradne na inferenciu, teda spúšťanie už natrénovaných modelov, nie na ich trénovanie.
OpenAI plánuje nasadenie čipu v malých objemoch do konca roka 2026, s väčším nábehom počas roka 2027. Spoločnosť zdôraznila, že napriek vlastnému čipu bude naďalej nakupovať akcelerátory od Nvidia aj ďalších externých dodávateľov – cieľom je najmä zníženie závislosti od jediného dodávateľa a zníženie prevádzkových nákladov. Čip sa zatiaľ nedostal do štádia dostupného na externé testovanie, k dispozícii sú len engineering vzorky, zatiaľ čo konkurenčné systémy Nvidia Vera Rubin sa už dodávajú zákazníkom.Všetky uvádzané čísla poskytla priamo spoločnosť OpenAI. SemiAnalysis potvrdila časť behov osobne v laboratóriu, no nevykonala kompletnú sadu testov ani nezverejnila výsledky testov AgentX. Porovnanie s ešte nenasadenými budúcimi systémami Nvidia (najmä Vera Rubin) preto nie je vo všetkých scenároch nezávisle a plne overené