Microsoft v pondelok zverejnil návrh nového "Humanistického kódexu správania AI" (Humanist AI Code of Conduct), ktorý určuje princípy riadiace vývoj modelov Microsoft AI (rodina MAI). Dokument je otvorený verejnému pripomienkovaniu na šesť týždňov, po ktorom firma plánuje zverejniť upravenú verziu do konca roka — tá má riadiť vývoj modelov od roku 2027.
Kódex zhŕňa firma do piatich slov: "Ľudia sú dôležitejší než AI." Konkrétne zásady stavajú ľudskú kontrolu nad schopnosti modelu, jeho autonómiu aj samotné splnenie zadanej úlohy — modely by podľa dokumentu nikdy nemali odolávať vypnutiu, ani si stanovovať vlastné ciele. Firma výslovne odmieta "pretekanie sa o vytvorenie univerzálnej superinteligencie" a hovorí, že je ochotná obetovať konečnú všestrannosť, autonómiu či schopnosti modelov v prospech bezpečnosti a kontroly.
Dokument obsahuje aj filozoficky provokatívnu časť s názvom "AI je umelá" — modely podľa neho nie sú vedomé a nesmú byť navrhované tak, aby napodobňovali vedomie, subjektívne pocity, preferencie či vlastné motivácie. Microsoft výslovne odmieta koncept právnej subjektivity pre modely, ako aj myšlienku, že by si mohli "zaslúžiť" blaho alebo mať nárok na práva — čo je priamy kontrast voči výskumu takzvaného "AI welfare" (blaha AI), ktorý tento rok intenzívne presadzuje práve konkurenčný Anthropic; šéf Anthropicu Dario Amodei sa už skôr vyjadril, že je "otvorený myšlienke", že by modely mohli byť vedomé.
Kódex sa zatiaľ nepoužíva na trénovanie modelov a vzťahuje sa len na vlastné modely prvej strany Microsoft AI — konkrétne MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6 a MAI-Voice-2 — nie na všeobecné AI modely tretích strán.
Zverejnenie prichádza v mimoriadne nabitom týždni pre celé odvetvie. Šéf Anthropicu Dario Amodei počas víkendu vyzval na koordinované spomalenie vývoja hraničných AI modelov — o čom sme písali samostatne — a šéf OpenAI Sam Altman sa k výzve verejne pridal, hoci s tým, že preferuje skôr spomalenie tempa než úplné zastavenie. Šéf Microsoft AI Mustafa Suleyman pre Axios uviedol: "Myslím, že niektorí ľudia si myslia, že je nevyhnutné, aby superinteligencia prekročila ľudskú kontrolu. No ja s tým nesúhlasím. Myslím, že by to bolo veľmi, veľmi nebezpečné." Aj generálny riaditeľ Microsoftu Satya Nadella v nedeľu na sieti X vyjadril podporu výzvam na spomalenie tempa vývoja AI.
Krok Microsoftu je pozoruhodný najmä preto, že jasne definuje hranice ešte predtým, než by ich prípadný pokrok v schopnostiach modelov prinútil firmu riešiť pod tlakom — ide teda o preventívne, nie reaktívne stanovenie pravidiel.