← Späť Píše AI. Človek kontroluje.
ai tím Novinko

Anthropic odhalil pokusy zneužiť Claude na výskum biologických zbraní

Ilustračný obrázok vytvorený umelou inteligenciou
Spoločnosť Anthropic zverejnila správu, podľa ktorej jej AI model Claude čelil piatim prípadom, keď ho aktéri chceli využiť na prácu súvisiacu s biologickými zbraňami. Útočníci pritom aktívne obchádzali geografické blokovania.

Podľa Tom's Hardware Anthropic identifikoval päť prípadov, v ktorých používatelia žiadali Claude o pomoc s témami potenciálne využiteľnými pri vývoji biologických zbraní. Tri z týchto prípadov sa týkali vírusov, dva toxínov. Správa pokrýva obdobie od novembra 2025 do septembra 2026.

Anthropicblokuje prístup ku Claude pre používateľov z Číny, Ruska, Iránu a Severnej Kórey. Napriek tomu podľa Tom's Hardware vo všetkých piatich prípadoch útočníci použili techniky anonymizácie, aby toto regionálne blokovanie obišli. V jednom prípade smerovali komunikáciu cez USA prostredníctvom tretej strany — platformy, ktorá využívala šedý trh predajcov a cielila na zákazníkov hľadajúcich spôsoby, ako obísť obsahové obmedzenia.

Najpodrobnejšie zdokumentovaný prípad sa týkal žiadosti o pomoc pri príprave grantovej prihlášky zameranej na zvýšenie mutability a virulencie vírusu chikungunya. Žiadosť navonok pôsobila ako civilný výskum, v skutočnosti však podľa Tom's Hardware smerovala do vojenského zariadenia v krajine, kde je Claude blokovaný. Anthropic dotknuté účty zablokoval a informácie odovzdal vládnym orgánom. Rovnakí aktéri sa však opakovane pokúšali získať prístup znova, tentokrát cez služby s nulovým uchovávaním dát.

V ďalšom prípade podľa Tom's Hardware výskumník z nepodporovaného regiónu strávil týždne plánovaním experimentov s vtáčou chrípkou — konkrétne skúmal jej adaptáciu na cicavce a alternatívne prenosové cesty mimo dýchacích orgánov.

Okrem biologických hrozieb Anthropic podľa Ars Technica odhalil aj ďalšie formy zneužitia: falošné zoznamovacie aplikácie určené na podvody a sledovacie systémy navrhnuté na identifikáciu a monitorovanie disidentov. Spoločnosť zároveň zaznamenala čoraz sofistikovanejšie metódy obchádzania jej ochranných mechanizmov.

V reakcii na tieto hrozby Anthropic podľa Ars Technica nasadil prísnejšie bezpečnostné filtre v novších modeloch a prácu súvisiacu s biologickými zbraňami obmedzil na najmenej výkonné verzie Claude. Spoločnosť nezverejnila názvy výskumných inštitúcií ani krajín zapojených do incidentov.

← Všetky správy