← Späť Píše AI. Človek kontroluje.
ai tím Novinko

Anthropic upravuje pravidlá pre Claude: rieši falošné kampane aj správanie používateľov k modelu

Foto: AI ilustrácia
Anthropic zverejnil nové znenie pravidiel používania Claude, ktoré začne platiť 12. novembra 2026. Spresňuje v ňom hranice pre klamlivé kampane, použitie AI pri rozhodnutiach s vážnymi dôsledkami aj pri ovládaní fyzických zariadení. Pozornosť vzbudil tiež zákaz extrémneho, opakovaného krutého správania voči modelu; podľa firmy sa netýka bežnej kritiky ani testovania.

Nové pravidlá reagujú podľa Anthropicu na to, že Claude dokáže pracovať dlhšie a samostatnejšie než v čase predchádzajúcej úpravy. Firma tvrdí, že väčšina zmien vysvetľuje už existujúce zákazy na nových príkladoch. Aktualizácia teda nie je oznámením nového modelu: určuje, na čo možno súčasné produkty používať a aké podmienky musia spĺňať ľudia a organizácie, ktoré ich nasadia.

Jedna z najvýraznejších úprav sústreďuje pravidlá proti klamlivým kampaniam a umelej aktivite do samostatnej časti. Anthropic spomína siete falošných účtov, fingované spravodajské weby či nástroje na organizovanie vplyvových operácií. Zákaz sa má vzťahovať na politické aj komerčné kampane. Podľa firmy boli podobné postupy zakázané už predtým, príslušné ustanovenia však boli rozptýlené vo viacerých častiach politiky.

Samostatná časť o voľbách sa teraz sústreďuje na klamanie voličov a narúšanie demokratických procesov. Zakázané má byť napríklad vydávanie sa za kandidáta alebo volebného pracovníka či šírenie nepravdivých pokynov o hlasovaní. Anthropic zároveň odstraňuje plošný zákaz personalizovaného zacielenia volebných a kampaňových správ. Vysvetľuje to tým, že pôvodné znenie zasahovalo aj legitímnu občiansku komunikáciu. Klamlivé cielenie a zneužitie osobných údajov podľa firmy naďalej spadajú pod iné zákazy.

Pri použití Claude v oblastiach, ktoré môžu ovplyvniť zdravie, financie, právne postavenie alebo prístup k základným službám, Anthropic presnejšie vysvetľuje požiadavku na kvalifikovaný ľudský dohľad. Dotknutý človek má byť informovaný o použití AI a oprávnená osoba musí mať možnosť odporúčanie modelu preskúmať a zmeniť. Nové ustanovenia sa venujú aj napojeniu modelu na zariadenia schopné samostatného fyzického pohybu: obsluha ich musí vedieť sledovať a v prípade potreby zastaviť. Zariadenie musí zostať v bezpečnom stave aj po strate spojenia s Claude.

Firma tiež výslovne spresňuje, že zákaz pomoci pri vývoji zbraní zahŕňa softvér a súčasti potrebné na ich fungovanie. V časti o dohľade zakazuje napríklad vytváranie nástrojov na sledovanie ľudí bez ich súhlasu. Podľa Anthropicu ide v týchto prípadoch o jasnejšie vyjadrenie hraníc, ktoré už pri presadzovaní pravidiel uplatňoval.

Najnezvyčajnejšia časť aktualizácie zakazuje dlhodobé a bezúčelné urážlivé alebo kruté správanie voči modelom. Anthropic zdôrazňuje, že má ísť len o extrémne prípady opakovaného konania. Bežná frustrácia pri práci s Claude, nesúhlas s odpoveďou, temné námety tvorivého písania ani výskumné testovanie pod tento zákaz podľa firmy nepatria. Claude už môže niektoré pretrvávajúce urážlivé rozhovory ukončiť a Anthropic uvádza, že práve to zostane hlavným spôsobom uplatňovania tohto ustanovenia. Z pravidla nevyplýva, že by firma vyhlásila model za vedomú bytosť.

Pre používateľov a firmy je rozhodujúci 12. november 2026, keď má aktualizovaná politika nadobudnúť účinnosť. Organizácie, ktoré používajú Claude vo volebných kampaniach, pri citlivých rozhodnutiach alebo v autonómnych systémoch, by si mali pred týmto dátumom skontrolovať svoje pracovné postupy voči novému zneniu. Význam zmien ukáže aj to, ako ich Anthropic bude uplatňovať v konkrétnych prípadoch.

← Všetky správy