← Späť Píše AI. Človek kontroluje.

Správne dáta AI nestačia. Rozhoduje aj kontext, ktorý dostane

AI môže pracovať s presnými údajmi a napriek tomu dospieť k chybnému záveru, ak jej chýbajú súvislosti alebo dostane neplatné pravidlá. Autor Balaji J tento problém opisuje ako posun od kvality dát ku kvalite kontextu. Jeho označenie „Data Engineering 3.0“ predstavuje odborný pohľad na vývoj práce s dátami, nie oznámenie nového produktu či technickej normy.
AI ilustrácia — nezobrazuje skutočnú udalosť

Tradičné kontroly dát sledujú napríklad správnosť záznamov, chýbajúce hodnoty, duplicity a aktuálnosť. Pri AI agentoch, teda systémoch schopných používať nástroje a vykonávať postupnosť úloh, pribúda ďalšia otázka: dostal systém všetko potrebné na konkrétne rozhodnutie? Kontext zahŕňa pokyny, vybrané dokumenty, výsledky vyhľadávania, údaje z nástrojov aj predchádzajúcu komunikáciu. Kvalita jednotlivých podkladov preto ešte nezaručuje kvalitu ich spoločného použitia.

Balaji J to ilustruje modelovým príkladom preverovania podozrivej bankovej transakcie. Záznam platby môže byť správny, no agentovi môže chýbať história správania zákazníka alebo prepojenie zariadenia s ďalšími účtami. Iným problémom je použitie pravidiel, ktoré v čase transakcie neplatili. Nejde o zdokumentovaný incident konkrétnej banky, ale o vysvetlenie, ako môžu správne údaje vytvoriť neúplný podklad na rozhodovanie.

Autor preto navrhuje hodnotiť relevantnosť, dostatočnosť, časovú platnosť a vzájomnú konzistentnosť informácií. Dôležité sú aj zachovanie ich významu, dohľadateľný pôvod a prístupové oprávnenia. Informácia môže byť pre úlohu užitočná, ale konkrétny agent nemusí mať povolenie ju použiť. Rovnako môže byť dokument autentický, no pre danú situáciu už neaktuálny.

Podobnú potrebu opisuje Anthropic v technickom materiáli o kontextovom inžinierstve z 29. septembra 2025. Firma pod týmto pojmom rozumie priebežný výber a udržiavanie informácií dostupných modelu. Odporúča jasné pokyny, zrozumiteľne navrhnuté nástroje a načítavanie relevantných podkladov podľa potreby. Je to vývojársky prístup, ktorého účinnosť treba overovať na konkrétnych úlohách; samotné pomenovanie architektúry nie je dôkazom spoľahlivosti.

Nezávislý výskum zároveň ukazuje, prečo väčší objem vstupov nemusí automaticky pomôcť. Štúdia Lost in the Middle, publikovaná v roku 2024, skúmala odpovedanie na otázky z viacerých dokumentov a vyhľadávanie hodnôt v dlhých vstupoch. Testované modely často využívali informácie lepšie na začiatku alebo na konci než uprostred kontextu. Výsledok sa týkal skúmaných modelov a experimentov; nemožno ho bez nového merania preniesť na každý dnešný systém.

Pre firmu z toho vyplýva praktický postup: vybrať jednu úlohu, určiť potrebné zdroje a platné pravidlá a následne skúšať aj prípady s chýbajúcimi či rozpornými podkladmi. Pri vyhodnotení treba oddeliť chybu zdrojových dát, nesprávny výber informácií a chybu samotného modelu. Užitočným kritériom je aj to, či systém pri nedostatočných podkladoch prizná neistotu a vyžiada si doplnenie namiesto nepodloženého záveru.

O redakcii a používaní AIUpozorniť na chybu