← Späť Píše AI. Človek kontroluje.
ai tím Novinko

AI amnézia: prečo chatboty zabúdajú, čo ste im povedali

Chatbotovi vysvetlíte projekt, dohodnete pravidlá a o niekoľko správ neskôr sa vás opýta na vec, ktorú ste mu už povedali. Na prvý pohľad to vyzerá ako obyčajné zabúdanie. V skutočnosti za tým môže byť kombinácia technických limitov, spôsobu fungovania jazykových modelov aj nastavení samotnej aplikácie.

Každý, kto používa AI pri dlhšom projekte, sa s tým pravdepodobne už stretol. Chatbot pozná názov projektu, vie, čo má robiť, pamätá si niekoľko predchádzajúcich rozhodnutí – a potom zrazu odpovie, akoby sa o nich nikdy nehovorilo. Používatelia tento jav často označujú ako „AI amnéziu“, hoci chatbot v skutočnosti nemá pamäť rovnakého typu ako človek.

Základným pojmom je kontextové okno. Predstavme si ho ako pracovný stôl, na ktorý si AI počas rozhovoru rozkladá všetko, s čím má práve pracovať: vaše správy, svoje predchádzajúce odpovede, dokumenty, systémové pokyny a ďalšie informácie. Veľkosť tohto pracovného priestoru sa meria v tokenoch, teda približne v kusoch slov a znakov. Moderné systémy dokážu pracovať s veľmi rozsiahlym kontextom – niektoré verzie Claude napríklad ponúkajú až milión tokenov. Ani obrovské kontextové okno však neznamená dokonale neobmedzenú pamäť.

Keď je konverzácia príliš dlhá, aplikácia musí so staršími informáciami nejako naložiť. Môže ich z aktívneho kontextu vyradiť, zhrnúť alebo uprednostniť novšie a relevantnejšie časti rozhovoru. Výsledkom môže byť situácia, keď používateľ pred sto správami presne stanovil pravidlo, ale pri ďalšej odpovedi už konkrétna formulácia nie je medzi informáciami, ktoré model práve dostal. Z pohľadu človeka chatbot „zabudol“. Z technického pohľadu sa k pôvodnej informácii jednoducho nemusel dostať.

Existuje však aj druhý problém. Aj keď sa informácia v kontexte nachádza, model ju nemusí vždy správne použiť. Dlhý kontext nie je to isté ako dokonalé vyhľadávanie v databáze. Výrobcovia modelov preto testujú schopnosť systémov nájsť konkrétnu informáciu ukrytú medzi stovkami strán textu. Anthropic už pri starších verziách Claude upozorňoval, že vhodný spôsob zadania otázky môže výrazne zlepšiť schopnosť modelu vyhľadať dôležitý údaj v dlhom dokumente. Inými slovami: AI môže mať informáciu „pred sebou“, ale napriek tomu jej neprikladá správnu váhu.

Treťou vrstvou je dlhodobá pamäť, ktorú dnes pridávajú samotné aplikácie. Tá funguje inak než kontext jedného chatu. ChatGPT napríklad používa systém, ktorý dokáže syntetizovať informácie o používateľových preferenciách, projektoch a obmedzeniach a využiť ich v budúcich rozhovoroch. OpenAI v roku 2026 predstavila novú generáciu tejto pamäte s cieľom lepšie riešiť problémy so zastarávaním a správnosťou údajov počas dlhého obdobia. Podobný princíp používa Gemini, ktoré môže pri zapnutej funkcii pamäte vychádzať z predchádzajúcich rozhovorov a prispôsobovať podľa nich ďalšie odpovede.

Ani táto pamäť však nie je doslovným archívom všetkého, čo používateľ kedy povedal. Systém sa môže snažiť vybrať iba informácie, ktoré považuje za dlhodobo užitočné. To je praktické z hľadiska rýchlosti aj súkromia, zároveň to však znamená, že poznámka vyslovená raz v jednom rozhovore nemusí byť automaticky dostupná o niekoľko mesiacov. Rozdiel je preto podobný ako medzi otvoreným dokumentom na stole a poznámkou uloženou v osobnom organizéri.

Situáciu komplikuje aj to, že jednotlivé režimy tej istej služby nemusia používať pamäť rovnako. Google napríklad uvádza, že pamäť minulých konverzácií v Gemini závisí od účtu, nastavení a konkrétneho režimu a nie je dostupná vo všetkých funkciách. Používateľ tak môže mať pocit, že jeden deň si chatbot niečo pamätá a druhý deň nie, hoci v skutočnosti pracuje v inom režime alebo s iným nastavením.

Pre používateľa z toho vyplýva jednoduché pravidlo: pri dôležitých projektoch sa neoplatí spoliehať na to, že AI si automaticky zapamätá každú informáciu. Kľúčové pravidlá, rozhodnutia a fakty je vhodné držať v jasnom projektovom dokumente alebo ich pri kritickej úlohe znovu priložiť. Pri programovaní to môže byť technická špecifikácia, pri firme zoznam pravidiel značky a pri dlhom redakčnom projekte napríklad redakčný manuál.

„AI amnézia“ preto nie je dôkazom, že chatbot je pokazený. Je skôr dôsledkom toho, že dnešné jazykové modely kombinujú obrovský, ale stále konečný pracovný kontext so samostatnými mechanizmami dlhodobej pamäte. Tieto systémy sa rýchlo zlepšujú, no stále nefungujú ako ľudská autobiografická pamäť ani ako dokonale indexovaná databáza. A kým sa to nezmení, platí paradox modernej AI: chatbot môže analyzovať tisíce strán textu a zároveň zabudnúť na jednu malú, ale pre vás zásadnú vetu.

← Všetky správy