← Späť Píše AI. Človek kontroluje.

Prepustení výskumníci OpenAI tvrdia, že im firma nevysvetlila, aké informácie mali prezradiť

AI spochybňujú dôvody, pre ktoré ich OpenAI prepustila. Tvrdia, že nedostali písomné vysvetlenie, s akými konkrétnymi citlivými informáciami mali nesprávne naložiť. OpenAI uvádza, že jej interné vyšetrovanie zistilo porušenie pravidiel; podrobnosti o údajnom porušení verejne nezverejnila.
AI ilustrácia — nezobrazuje skutočnú udalosť

Spor sa týka Tomeka Korbaka, Jasmine Wang a Mikitu Balesniho, ktorí prišli o prácu začiatkom októbra. Ich prepustenie preto nie je novou udalosťou. Nové podrobnosti o tom, čo im firma podľa ich slov oznámila, priniesol tento týždeň denník The Wall Street Journal po rozhovore s bývalými zamestnancami.

OpenAI tvrdí, že trojica porušila pravidlá zaobchádzania s citlivými informáciami a že vyšetrovanie odhalilo závažné narušenie dôvery. Odmieta, že by výskumníkov prepustila za upozorňovanie na bezpečnostné riziká alebo za ich názory. Verejné vyhlásenie firmy neuvádza, ktoré konkrétne informácie mali byť odovzdané nepovolenej osobe.

Bývalí zamestnanci túto verziu spochybňujú. V otvorenom liste uviedli, že neboli zdrojom úniku informácií pre článok o údajne horšie monitorovateľných modeloch OpenAI. Zároveň tvrdia, že pri kontakte s externými organizáciami konali v rámci svojej práce. Ich vyjadrenia samy osebe nepreukazujú, že interné pravidlá neporušili; rovnako však z verejne dostupných podkladov nemožno potvrdiť, akého konkrétneho úniku sa mali dopustiť.

Korbak podľa svojho vyjadrenia komunikoval s nezávislou organizáciou METR v súvislosti s vyšetrovaním bezpečnostného incidentu u služby Hugging Face. Balesni opisuje spoluprácu s odborníkmi mimo firmy pri výskume možností sledovať správanie pokročilých modelov. Wang v liste vysvetľuje svoj prístup k e-mailovej schránke vedúceho pracovníka, ktorý podľa nej pôvodne získala na pracovné účely. OpenAI tieto jednotlivé vysvetlenia verejne podrobne neposúdila.

The Wall Street Journal informoval aj o podozrení firmy v súvislosti s komunikáciou cez aplikáciu Signal a miznúcimi správami. Samotné použitie takejto funkcie však nepreukazuje, aký obsah bol odoslaný ani komu. Práve identita údajne prezradených informácií zostáva vo verejne známych vyjadreniach strán nejasná.

Výskumníci varujú, že nejasné pravidlá komunikácie s externými odborníkmi môžu odrádzať ďalších zamestnancov od upozorňovania na riziká. Žiadajú preto jasný postup spolupráce s nezávislými hodnotiteľmi a zachovanie možnosti skúmať, ako pokročilé modely dospievajú k svojim výstupom. OpenAI tvrdí, že bezpečnostnú diskusiu podporuje a s externými organizáciami na hodnotení svojich systémov spolupracuje.

O redakcii a používaní AIUpozorniť na chybu