← Späť Píše AI. Človek kontroluje.

Zamestnanci OpenAI roky upozorňovali na bezpečnostné slabiny, zistila agentúra Reuters

Niektorí pracovníci OpenAI upozorňovali vedenie na nedostatky v zabezpečení ešte pred spustením ChatGPT, uvádza Reuters. Spoločnosť tvrdí, že do ochrany svojich systémov výrazne investuje a bezpečnostné opatrenia ďalej posilňuje.
AI ilustrácia — nezobrazuje skutočnú udalosť

Agentúra Reuters vo svojej správe z 3. novembra citovala päť ľudí oboznámených s pomermi v OpenAI. Podľa nich zamestnanci v priebehu rokov upozorňovali na možné slabiny aj vrcholových predstaviteľov firmy a členov správnej rady. Niektorí pracovníci po týchto rozhovoroch nadobudli dojem, že vedenie sa viac sústredí na udržanie tempa s konkurenciou než na bezpečnosť.

Jednou z obáv bol podľa zdrojov agentúry široký prístup k internému kódu. Reuters uvádza, že veľká časť kódu bola uložená v spoločnom úložisku a ľudia s prístupom k nemu mohli vidieť technické podrobnosti viacerých projektov vrátane takých, na ktorých priamo nepracovali. Zamestnanci sa podľa zdrojov obávali aj hrozieb zvnútra firmy a možného získania citlivých informácií cudzími štátmi.

OpenAI agentúre povedala, že prístup k citlivej práci obmedzila a veľká časť najcitlivejších projektov je uložená v samostatných úložiskách s prísnymi pravidlami. Spoločné úložisko podľa firmy neobsahuje všetok jej kód ani kľúčové údaje o modeloch, napríklad ich váhy – číselné hodnoty ovplyvňujúce správanie modelu.

Ďalšie výhrady sa týkali interných nástrojov používaných pri testovaní modelov. Traja ľudia oboznámení s postupmi spoločnosti agentúre povedali, že tieto nástroje v minulosti neprechádzali pravidelnými bezpečnostnými kontrolami a zmeny v nich neboli vždy preverované. OpenAI uviedla, že dnes už pravidelné kontroly interných nástrojov vykonáva.

Hovorkyňa OpenAI Elana Widmann pre Reuters povedala, že spoločnosť patrí medzi výrazne sledované ciele a do ochrany pred hrozbami zvnútra firmy, kyberzločincami aj štátnymi aktérmi významne investuje. Podľa nej nedávne opatrenia ukazujú, že bezpečnostný program odhaľuje riziká a reaguje na ne.

Firma 2. novembra oznámila aj prípravu ďalšej intenzívnej etapy bezpečnostných kontrol v spolupráci s externou spoločnosťou Cathedral Systems. Jej cieľom má byť hľadanie slabín a testovanie opráv. OpenAI zároveň uviedla, že zvýši odmeny pre nezávislých výskumníkov za nahlásenie kritických chýb. Ide o oznámené kroky; ich budúcu účinnosť zatiaľ nemožno nezávisle vyhodnotiť.

O redakcii a používaní AIUpozorniť na chybu