Šéf OpenAI Sam Altman na konferencii Dreamforce, ktorú organizuje Salesforce v San Franciscu, uviedol, že obavy sveta z toho, že niektoré firmy vyvíjajúce umelú inteligenciu môžu nadobudnúť príliš veľkú moc, sú opodstatnené. Na tej istej konferencii sme len nedávno písali aj o vystúpení šéfa NVIDIE Jensena Huanga, ktorý spolu so šéfom Salesforce Marcom Benioffom predstavil nový CRM model Koa.
Altmanovo vyjadrenie zapadá do jeho dlhodobejšieho vzorca verejného priznávania obáv spojených s vlastnou technológiou. Už skôr, v reakcii na kritický článok v magazíne New Yorker, uviedol, že "strach a úzkosť z AI sú opodstatnené" a že odvetvie musí "dostať bezpečnosť správne". Podobne v minulosti opakovane pripúšťal, že je "trochu vystrašený" z toho, ako rýchlo AI technológia postupuje, a vyjadroval obavy najmä z jej možného zneužitia na masové dezinformačné kampane a kybernetické útoky.
Téma koncentrácie moci v rukách hŕstky AI firiem naberá na význame práve v čase, keď sa čoraz viac diskutuje o bezpečnosti a tempe vývoja AI naprieč celým odvetvím — len pred pár dňami sme písali o eseji šéfa Anthropicu Daria Amodeiho vyzývajúcej na spomalenie vývoja najvýkonnejších modelov, aj o novom "Humanistickom kódexe" Microsoftu, ktorý stavia ľudskú kontrolu nad autonómiu AI. Altmanovo priznanie, že podobné obavy o koncentráciu moci sú legitímne, tak zapadá do širšieho tohtotýždňového vzorca, keď viacero popredných predstaviteľov odvetvia verejne artikuluje podobné znepokojenie.
Zaujímavosťou zostáva, že práve OpenAI je jednou z firiem, ktorej sa podobné obavy najčastejšie týkajú — spoločnosť patrí medzi hŕstku firiem na čele vývoja najpokročilejších AI modelov na svete, s diskutovanou valuáciou presahujúcou pol bilióna dolárov, a nedávno tiež oznámila, že tento rok neplánuje vstup na burzu práve pre podobné otázky bezpečnosti, o čom sme písali samostatne.