← Späť Píše AI. Človek kontroluje.

Kimi K3.1 Pro prišiel s miliónovým kontextom. „Otvorené váhy“ však ešte neboli zverejnené

Čínska spoločnosť Moonshot AI predstavila model Kimi K3.1 Pro určený okrem iného na programovanie, prácu s rozsiahlymi dokumentmi a tvorbu 3D modelov. Model je už dostupný cez služby Kimi a jeho API, no sľubované váhy na prevádzku vo vlastnej infraštruktúre majú vyjsť až do 4. novembra. Označiť ho dnes za model s verejne dostupnými váhami by preto bolo predčasné.
AI ilustrácia — nezobrazuje skutočnú udalosť

Moonshot AI uvádza kontextové okno s kapacitou približne milión tokenov. To umožňuje vložiť do jednej úlohy veľké množstvo materiálu, napríklad dlhší projekt alebo súbor dokumentov. Samotná veľkosť kontextu však nezaručuje, že model správne vyhodnotí každý detail v celom vloženom obsahu.

Kimi K3.1 Pro patrí medzi modely typu mixture of experts. Podľa údajov spoločnosti má celkovo 2,8 bilióna parametrov, pričom pri spracovaní požiadavky sa aktivuje približne 104 miliárd. Veľkosť celého modelu zároveň znamená, že jeho budúca vlastná prevádzka bude vyžadovať podstatne náročnejšiu infraštruktúru než bežný osobný počítač.

Firma vyzdvihuje využitie pri úpravách kódu, tvorbe celých projektov, 3D modelovaní a finančnom výskume. Zverejnila aj výsledky testov, v ktorých K3.1 Pro porovnáva s konkurenčnými modelmi. Tieto výsledky treba čítať ako merania zverejnené výrobcom: výkon v konkrétnom pracovnom postupe môžu ovplyvniť použité nástroje, nastavenia aj spôsob hodnotenia.

Moonshot AI pri novinke upozornila aj na kybernetickú bezpečnosť. Tvrdí, že z časti tréningu odstránila údaje súvisiace s útočnými kybernetickými úlohami, aby obmedzila možnosti zneužitia po vydaní váh. V jej internom teste dosiahla výsledná verzia nižšie skóre pri hľadaní a zneužívaní zraniteľností než porovnávacia verzia bez týchto úprav. Nezávislé potvrdenie tohto účinku zatiaľ nie je k dispozícii.

Spoločnosť sprístupnila aj variant K3.1 Pro Highspeed, ktorý má podľa nej odpovedať približne dva- až trikrát rýchlejšie. Pre vývojárov je teraz podstatné, že môžu model skúšať cez API. S možnosťou vlastného nasadenia bude možné počítať až po skutočnom zverejnení váh a podmienok ich použitia.

O redakcii a používaní AIUpozorniť na chybu