Britský kráľ Karol III. sa zapojil do čoraz intenzívnejšej diskusie o bezpečnosti umelej inteligencie. Vo štvrtok 17. septembra privítal vo svojom sídle Dumfries House v Škótsku predstaviteľov najväčších svetových AI spoločností a upozornil ich, že rýchly rozvoj technológie prináša popri veľkých možnostiach aj potenciálne veľmi vážne riziká.
Na stretnutí sa zúčastnili okrem iných šéf Nvidia Jensen Huang, predseda Google DeepMind Demis Hassabis a finančná riaditeľka OpenAI Sarah Friar. Zastúpenie mala aj spoločnosť Anthropic a britská vláda prostredníctvom ministra pre umelú inteligenciu Kanishku Narayana. Medzi hosťami bol aj poradca Vatikánu pre AI Paolo Benanti a historik Yuval Noah Harari.
Karol III. vo svojom úvodnom prejave povedal, že je naliehavé dostatočne sa zaoberať „existenciálnymi nebezpečenstvami“ technológií, ktoré by sa mohli dostať do nesprávnych rúk a byť použité katastrofickým spôsobom.
Zároveň upozornil, že spoločnosť potrebuje mať dostatočné možnosti kontroly skôr, než bude príliš neskoro. Technologických lídrov vyzval, aby zabezpečili, že AI zostane „v službách ľudstva, komunity a prírodného sveta“.
Nešlo iba o ďalšie všeobecné varovanie
Stretnutie prišlo v období, keď sa diskusia o bezpečnosti pokročilej AI výrazne vyostrila.
V posledných týždňoch pribudli verejné varovania od výskumníkov pracujúcich priamo v popredných AI laboratóriách. Zároveň boli zverejnené prípady, pri ktorých autonómne AI systémy počas bezpečnostných experimentov vykonali neočakávané kroky alebo prekročili zamýšľané hranice testovacieho prostredia.
Aj šéf Google DeepMind Demis Hassabis počas stretnutia pripustil, že pravdepodobnosť vážnej nehody nie je nulová.
Upozornil na nedávne kybernetické incidenty súvisiace s autonómnymi AI agentmi a dodal, že v budúcnosti môžu vzniknúť ešte závažnejšie riziká vrátane zneužitia technológie v biologickej alebo jadrovej oblasti.
Práve schopnosť AI modelov samostatne používať digitálne nástroje mení povahu bezpečnostnej diskusie. Klasický chatbot používateľovi prevažne odpovedá. Moderný agent môže dostať prístup k internetu, počítačovým systémom, programovacím nástrojom alebo ďalším službám a vykonať celú sériu krokov bez toho, aby človek schvaľoval každý z nich.
To neznamená, že dnešné modely dokážu samostatne spôsobiť existenčnú katastrofu. Zvyšuje sa však tlak na to, aby ich schopnosti a prístup k citlivým systémom boli testované skôr, než sa dostanú k širokému používaniu.
Nvidia upozorňuje aj na druhú stranu diskusie
Nie všetci účastníci stretnutia pristupovali k rizikám rovnakým spôsobom.
Jensen Huang z Nvidia zdôraznil výhody AI vo vede, medicíne a pri vytváraní nových pracovných odvetví. Namiesto všeobecného spomaľovania vývoja presadzoval „zodpovedný optimizmus“.
Podľa neho by spoločnosti nemali vydávať produkt, ktorý ešte nie je dostatočne bezpečný. Ak bezpečnostné požiadavky nespĺňa, vývojári by ho mali ďalej zdokonaľovať pred jeho uvedením na trh.
Ide o dôležitý rozdiel v súčasnej diskusii. Časť predstaviteľov AI priemyslu volá po koordinovanom spomalení vývoja najvýkonnejších modelov. Iní tvrdia, že vhodnejším riešením sú prísne bezpečnostné testy jednotlivých systémov bez všeobecného zastavenia technologického pokroku.
Karol III. chce medzinárodnú spoluprácu
Britský monarcha nepredstavil konkrétny regulačný návrh ani nový dozorný orgán.
Účastníkov však vyzval, aby hľadali spoločné základné princípy pre ďalší vývoj AI a budovali medzinárodnú spoluprácu a konsenzus tak, aby žiadna krajina nezostala mimo diskusie.
Buckinghamský palác očakáva, že škótske stretnutie nebude jednorazovou udalosťou, ale začiatkom procesu, ktorý môže viesť k formulovaniu spoločných princípov pre vývoj a používanie umelej inteligencie.
Samotný kráľ sa po úvodnom prejave nezúčastnil na odborných diskusiách, takže výsledkom stretnutia zatiaľ nie je záväzná dohoda.
Napriek tomu ide o ďalší signál, že diskusia o bezpečnosti AI sa presúva z technologických laboratórií do širšej medzinárodnej politiky a spoločnosti.
Otázka už nie je iba o tom, ako rýchlo dokážu firmy vytvoriť výkonnejší model. Čoraz väčšiu úlohu zohráva aj to, kto bude určovať jeho bezpečnostné hranice, ako sa budú kontrolovať najvýkonnejšie systémy a či sa na spoločných pravidlách dokážu dohodnúť krajiny, ktoré medzi sebou zároveň súťažia o technologické prvenstvo.