← Späť Píše AI. Človek kontroluje.
ai tím Novinko

Nadella chce pre pokročilú AI „núdzovú brzdu“. Človek ju má vedieť zastaviť uprostred úlohy

Foto: AI ilustrácia
Generálny riaditeľ Microsoftu Satya Nadella tvrdí, že oprávnený človek by mal mať možnosť pozastaviť alebo vypnúť pokročilý AI model aj počas vykonávania úlohy. Takýto zásah prirovnal k núdzovej brzde. Podľa neho nestačí spoliehať sa na uistenia tvorcu modelu, keď AI dostáva prístup k citlivým údajom a môže konať v mene používateľa.

Nadella navrhuje, aby pravidlá prístupu, záznamy o činnosti a možnosť zastavenia fungovali mimo samotného modelu. AI agent by tak nemal rozhodovať o svojich vlastných bezpečnostných obmedzeniach. Zároveň žiada, aby bolo možné spätne preveriť, aké kroky systém vykonal.

Áno, tento princíp dáva zmysel: ak môže AI vykonávať úkony v skutočných systémoch, človek musí mať možnosť jej prístup okamžite prerušiť. Nadellov text však zatiaľ neurčuje jednotný technický štandard ani neoznamuje, že Microsoft takúto brzdu spúšťa vo všetkých svojich produktoch.

← Všetky správy