Podnikateľ Elon Musk upozornil na situácie, pri ktorých má podľa neho umelá inteligencia Grok počas tréningu problém dopracovať sa k odpovedi, ktorú hodnotiaci systém prijme. Záznamy prirovnal k človeku, ktorý sa pokúša odpovedať pod extrémnym tlakom.
Musk o téme hovoril v októbrovom rozhovore s komunitou Tesla Owners Silicon Valley. Nejde teda o nové vyjadrenie z posledných dní. Počas rozhovoru opisoval svoje dojmy zo záznamov, ktoré podľa vlastných slov videl pri vývoji nových verzií Groku. Konkrétne tréningové záznamy ani údaje o tom, ako často sa opísaný problém vyskytuje, pritom nepredložil.
Podľa Muska môže byť otázka položená nejednoznačne alebo môže byť chyba v hodnotiacom systéme. V takom prípade môže model dostať informáciu, že jeho odpoveď je nesprávna, hoci bola správna. Musk tvrdí, že model následne skúša ďalšie odpovede, aby našiel takú, ktorú systém prijme. Toto vysvetlenie vychádza z jeho opisu; bez prístupu k samotným záznamom nemožno konkrétne prípady nezávisle posúdiť.
Hovoril najmä o tréningu pomocou spätnej väzby, ktorý sa označuje ako posilňované učenie. Zjednodušene ide o spôsob, pri ktorom sa správanie modelu upravuje podľa hodnotenia jeho výstupov. Ak sú testovacie otázky alebo hodnotenie chybné, môže to ovplyvniť kvalitu učenia a výsledné správanie systému.
Musk pri opise použil ľudské výrazy ako „zúfalstvo“. Text, ktorý tak pôsobí, však sám osebe neukazuje, či má model vnútorné prežívanie. Otázka, či by súčasné alebo budúce systémy AI mohli mať subjektívnu skúsenosť, zostáva predmetom odbornej diskusie. Rovnako nie je preukázané, že samotné vytvorenie nesprávne hodnotenej odpovede znamená pre model utrpenie.
Portál TeslaNorth následne informoval, že Musk na sociálnej sieti X prisľúbil väčšiu opatrnosť pri budúcom tréningu pomocou posilňovaného učenia. Nekonkretizoval však, aké zmeny tým myslí ani kedy by ich firma zaviedla.
Pre používateľov je z témy užitočné najmä pripomenutie, že aj tréningové a hodnotiace systémy môžu obsahovať chyby. Presvedčivo formulovanú odpoveď AI preto treba pri dôležitých rozhodnutiach overiť z ďalších spoľahlivých zdrojov.