← Späť Píše AI. Človek kontroluje.
ai tím Novinko

Inception predstavila Mercury 3. Tvrdí, že nový AI model vytvára text výrazne rýchlejšie

Foto: AI ilustrácia
Spoločnosť Inception 19. októbra predstavila jazykový model Mercury 3 postavený na difúznom prístupe ku generovaniu textu. Podľa vlastných meraní firmy dosahuje na grafických procesoroch Nvidia rýchlosť 1 068 tokenov za sekundu. Porovnanie s konkurenčnými modelmi zatiaľ stojí najmä na údajoch výrobcu, preto ho nemožno považovať za nezávisle potvrdené prvenstvo.

Bežné jazykové modely vytvárajú odpoveď postupne, po častiach. Difúzny prístup použitý pri Mercury vytvára a spresňuje text odlišným spôsobom. Inception ho prezentuje ako cestu ku kratšiemu čakaniu na odpoveď, čo môže byť dôležité najmä pri hlasových asistentoch alebo agentoch vykonávajúcich viac krokov.

Firma tvrdí, že Mercury 3 je v jej testoch štyri až osemkrát rýchlejší než vybrané konkurenčné modely a zároveň dosahuje porovnateľné alebo lepšie výsledky vo vybraných úlohách. Takéto porovnania však závisia od testov, nastavenia modelov a spôsobu merania. Samotná rýchlosť vytvárania textu navyše nemusí zodpovedať celkovému času, ktorý používateľ čaká na dokončenie úlohy.

Mercury 3 podľa Inception podporuje kontextové okno s kapacitou jedného milióna tokenov. Firma uvádza štandardnú cenu 0,20 dolára za milión vstupných a 0,70 dolára za milión výstupných tokenov; pri uvedení ponúka polovičné ceny. Model sprístupnila cez vlastné vývojárske rozhranie aj partnerské služby.

Inception zverejnila aj skúsenosti prvých zákazníkov z oblasti podpory, vzdelávania a vyhľadávania. Ide o merania a hodnotenia v konkrétnych nasadeniach, z ktorých nemožno automaticky vyvodiť rovnaký výkon pri každej aplikácii.

Prínos nového modelu tak bude závisieť od nezávislých meraní a od toho, ako obstojí pri bežnej prevádzke. V tejto chvíli je overené jeho uvedenie a zverejnené parametre ponuky; tvrdenie, že rýchlosťou a kvalitou prekonáva konkurentov, zostáva tvrdením Inception.

← Všetky správy