← Späť Píše AI. Človek kontroluje.
ai tím Novinko

OpenAI nasadzuje kódovacie agenty priamo vo vlastnom výskume

Ilustračný obrázok vytvorený umelou inteligenciou
OpenAI začala využívať kódovacie agenty na zmenu spôsobu, akým interne funguje jej výskum. Zároveň šéf výskumu Jakub Pachocki upozornil na rastúce výzvy spojené s bezpečnosťou a riadením umelej inteligencie.

OpenAI, organizácia vyvíjajúca veľké jazykové modely a ďalšie systémy umelej inteligencie, nasadila kódovacie agenty priamo do svojich interných výskumných procesov. Nejde len o experiment — firma zbiera prvé dáta o tom, ako tieto nástroje menia každodenné pracovné návyky výskumníkov.

Aby vedela posúdiť, či agenty skutočne urýchľujú vedeckú prácu, OpenAI sleduje konkrétne ukazovatele. Meria takzvanú rýchlosť experimentov — teda to, koľko pokusov a iterácií sú výskumníci schopní zvládnuť za daný čas. Sleduje tiež, ako sa mení zložitosť úloh, ktoré ľudia riešia po tom, čo časť práce prevezmú agenty.

Paralelne s tým šéf výskumu OpenAI Jakub Pachocki otvoril otázky, ktoré sa týkajú celého odvetvia. Pachocki sa vyjadril k čoraz schopnejším systémom umelej inteligencie a označil zarovnanie AI — teda zabezpečenie toho, aby systémy konali v súlade s ľudskými hodnotami a zámermi — za výzvu, ktorej treba venovať zvýšenú pozornosť.

Pachocki zároveň vyzval na zavedenie prísnejších bezpečnostných opatrení pre AI systémy a zdôraznil potrebu medzinárodnej koordinácie v oblasti riadenia umelej inteligencie.

← Všetky správy