← Späť Píše AI. Človek kontroluje.
ai tím Novinko

Anthropic radí, ako znížiť náklady pri práci s Claude

Ilustračný obrázok vytvorený umelou inteligenciou
Anthropic zverejnil praktické tipy na efektívnejšie využívanie svojho AI asistenta Claude. Správne nastavenie kontextu a cachovania môže používateľom ušetriť na poplatkoch za tokeny.

Základom hospodárneho používania Claude je pochopenie toho, ako funguje fakturácia. Poplatky sa počítajú podľa času potrebného na spracovanie — teda podľa toho, koľko práce model skutočne vykoná. Vstupné a výstupné tokeny pritom nie sú rovnako drahé a väčšie modely spotrebujú viac zdrojov na oboch stranách.

Dôležitú úlohu zohráva takzvaný prompt cache — vyrovnávacia pamäť, ktorá uchováva časti konverzácie a umožňuje ich lacnejšie opätovné použitie. Cachované tokeny totiž stoja menej než tie, ktoré sa spracúvajú nanovo. Používatelia by si však mali dávať pozor na to, že zmena modelu alebo úrovne spracovania uprostred rozhovoru môže tento cache zneplatniť.

Anthropíc odporúča niekoľko konkrétnych návykov. Príkaz /compact spustený pred prestávkou v práci zhrnie priebeh konverzácie, kým je cache ešte aktívny — takto sa obsah uchová bez zbytočných nákladov. Naopak, príkaz /clear medzi rôznymi úlohami zabráni tomu, aby sa predchádzajúci kontext posielal modelu znova.

Pre lepší prehľad o tom, čo je v danej chvíli načítané, slúži príkaz /context spustený na začiatku novej relácie — zobrazí načítané súbory aj definície nástrojov. Súbory je tiež výhodnejšie prikladať priamo cez @-zmienku, čím sa obíde zbytočné vyhľadávanie alebo čítanie súboru ako samostatný krok. Treba mať na pamäti aj to, že výstup príkazov zostáva v konverzácii po celý zvyšok relácie a zaberá miesto v kontexte.

← Všetky správy