Prvým problémom je zadanie, pri ktorom musí nástroj najskôr zisťovať, čo používateľ vlastne potrebuje. Požiadavka „oprav aplikáciu“ neposkytuje rovnaké východisko ako opis konkrétnej chyby, postup jej vyvolania a očakávané správanie. GitHub v odporúčaniach pre Copilot radí odstrániť nejednoznačnosť, pridávať príklady a zložité úlohy rozdeliť na jednoduchšie časti. Dobré zadanie nemusí byť dlhé. Musí vysvetliť problém, požadovaný výsledok a dôležité obmedzenia.
Druhou chybou je zamieňať množstvo podkladov za ich užitočnosť. Kontext predstavuje informácie, ktoré má model pri práci k dispozícii: zadanie, históriu rozhovoru, načítaný kód či výsledky príkazov. Relevantné súbory a chybové hlásenia pomáhajú, nesúvisiace diskusie alebo rozsiahle výpisy môžu pridávať zbytočnú záťaž. GitHub preto odporúča udržiavať históriu relevantnú. Anthropic pri Claude Code vysvetľuje, že obsah pridaný do konverzácie môže byť súčasťou ďalších požiadaviek, a tým ovplyvňovať spotrebu aj cenu.
Ani krátky nový pokyn preto nemusí znamenať malú požiadavku. Pri účtovaní podľa spotreby záleží aj na množstve spracovaného kontextu, použitom modeli, vytvorenom výstupe a využití vyrovnávacej pamäte, ktorá umožňuje lacnejšie opätovné spracovanie časti vstupu. Text model spracúva v jednotkách nazývaných tokeny. Pri predplatnom sa vyššia spotreba nemusí prejaviť samostatnou platbou za každú úlohu, môže však čerpať dostupné limity. Presný dosah treba posudzovať podľa podmienok konkrétnej služby.
Pomôcť môže oddelenie nesúvisiacich úloh. Anthropic pre Claude Code odporúča pri prechode na inú prácu začať čistú konverzáciu; pri pokračovaní dlhej úlohy možno využiť zhrnutie doterajšieho priebehu. Pred novým začiatkom si však zachovajte dôležité rozhodnutia, zostávajúce chyby a spôsob overenia výsledku. Zmyslom je odovzdať ďalšej relácii potrebné informácie bez celej histórie pokusov. Dostupné príkazy a automatické spravovanie kontextu sa medzi nástrojmi líšia.
Ďalším zdrojom nákladov môže byť nevhodná voľba modelu a nastavenia jeho uvažovania. Anthropic odporúča výkonnejšie modely pri náročných alebo nejednoznačných problémoch a menšie pri rutinnej práci. Nejde však o záruku, že lacnejší model dokončí každú jednoduchú úlohu výhodnejšie. Pri porovnávaní má zmysel sledovať cenu a čas do použiteľného výsledku, vrátane opráv a kontroly, nie iba cenu jednej odpovede.
Najdôležitejším nedostatkom býva chýbajúce overenie. Anthropic odporúča dať agentovi kontrolu, ktorú dokáže spustiť: napríklad test, zostavenie aplikácie alebo porovnanie vzhľadu so zadaním. GitHub zároveň upozorňuje, že vygenerovaný kód treba posúdiť a overiť podobne ako prácu kolegu. Úspešné zostavenie aplikácie pritom samo nepotvrdzuje, že správne fungujú všetky požadované situácie. Kontrola musí zodpovedať tomu, čo sa menilo.
Prakticky to znamená začať jednou jasne ohraničenou úlohou, pridať potrebné podklady a vopred určiť, podľa čoho bude výsledok hotový. Ilustračné zadanie môže znieť: „Pri odoslaní formulára s prázdnym e-mailom aplikácia spadne. Oprav validáciu podľa existujúceho vzoru v projekte, zachovaj vzhľad a over prázdny aj správne vyplnený vstup.“ Po dokončení si nechajte uviesť, čo sa zmenilo, aké kontroly prebehli a čo zostalo neoverené. Takýto postup poskytuje konkrétny základ na posúdenie, či AI pri danej práci skutočne pomohla.
