Pokud firma používá Claude při rozhodování o lidech, financích, právních věcech nebo v zákaznickém chatbotu, měla by do 12. listopadu zkontrolovat tři věci: kdo výstup skutečně schvaluje, kde uživatel vidí informaci o zapojení AI a jaké akce může AI provést sama. Právě tehdy začne platit aktualizovaná Usage Policy Anthropicu.
Nejde o nový evropský zákon ani o obecné pravidlo pro všechny AI nástroje. Je to podmínka používání služeb Anthropicu, která se vztahuje na Claude.ai, Claude Code, API, přístup přes cloudové partnery i produkty, do nichž firma Claude zabudovala. Místní právo může přidávat další povinnosti a má přednost tam, kde je přísnější.
Co Anthropic změnil a od kdy
Anthropic zveřejnil aktualizaci 8. října 2026 a stanovil účinnost na 12. listopadu 2026. Výrobce říká, že velká část změn zpřesňuje pravidla, která už v praxi uplatňoval. Nové znění ale dává firmám mnohem konkrétnější kontrolní seznam pro vysoce riziková doporučení, zákaznické chatboty, agenty s nástroji a zařízení ovládaná modelem.
Zásadní je rozsah. Policy se nevztahuje jen na člověka, který píše prompt do webového chatu. Zahrnuje vývojáře a firmy používající API, zákazníky cloudových poskytovatelů a autorizovaných resellerů i koncové uživatele řešení postaveného nad Claude. Obchodní podmínky zároveň začleňují Usage Policy do smluvních pravidel a ukládají zákazníkovi odpovědnost posoudit vhodnost výstupu a nezávisle ověřovat jeho faktickou správnost.
Kde firma potřebuje kvalifikovaného člověka
Nejpřesnější požadavky se týkají doporučení, která mohou ovlivnit zdraví, právní postavení, finance, obživu nebo přístup k bydlení, vzdělání a základním službám. Patří sem například individuální právní rada, diagnóza či léčebný plán, osobní investiční nebo daňové doporučení, rozhodnutí o úvěru a pojištění, pořadí uchazečů o práci, hodnocení zaměstnance nebo přijetí do školy.
V těchto situacích nestačí obecné tlačítko „zkontrolováno člověkem“. Kvalifikovaná osoba musí výstup smysluplně posoudit předtím, než je předán jako rada nebo použit pro rozhodnutí. Musí mít pravomoc doporučení změnit a zůstává odpovědná za správnost a vhodnost výsledku. Dotčený člověk má zároveň jasně vědět, že při přípravě rady nebo rozhodnutí byla použita AI; firma nemusí uvádět konkrétní model.
| Firemní situace | Co nové znění vyžaduje | Rozumná implementace |
|---|---|---|
| AI řadí kandidáty na pracovní pozici | Kvalifikované lidské posouzení a informace pro dotčeného člověka | HR schválí kritéria i výsledek, může pořadí změnit a rozhodnutí se uloží |
| Chatbot připraví osobní daňové doporučení | Kontrola kvalifikovanou osobou před předáním a disclosure | Výstup jde do fronty účetního, ne přímo zákazníkovi |
| AI shrne interní smlouvu pro právníka | Může jít o interní podklad mimo konečné rizikové doporučení | Označit jako návrh, uchovat zdroj a zakázat automatické odeslání klientovi |
| AI aplikuje pevný vzorec bez úsudku o člověku | Policy uvádí tuto situaci mezi výjimkami | Zdokumentovat vzorec a testovat, že model nepřidává vlastní hodnocení |
Ne každá práce v citlivém oboru je automaticky vysoce rizikové doporučení. Mezi výjimkami jsou obecné vzdělávací informace, interní rešerše a návrhy, vysvětlení už vydaného odborného rozhodnutí nebo čisté provedení pevného pravidla bez úsudku o konkrétním člověku. Rozhoduje reálná funkce workflow, ne název obrazovky.
Chatbot musí přiznat, že je AI
Spotřebitelské chatboty a AI agenti komunikující přímo s externími uživateli musí sdělit, že uživatel jedná s AI, nikoli s člověkem. Informace má být alespoň na začátku každého chatu nebo trvale v rozhraní. Nestačí ji schovat do obchodních podmínek, které uživatel při konverzaci nevidí.
Praktické řešení je krátké a srozumitelné: „Komunikujete s AI asistentem. Důležité údaje ověřte; pro pomoc člověka napište operátor.“ Současně musí existovat cesta k člověku tam, kde proces vyžaduje odbornou kontrolu nebo kde automatizace narazí na výjimku. Stejný princip používám u návrhu AI agenta pro konkrétní proces: model připravuje a třídí, ale odpovědnost a nevratné kroky mají jasného vlastníka.
Klamavý marketing dostal vlastní zákaz
Nová samostatná část zakazuje klamavé kampaně a umělou aktivitu i mimo politiku. Výslovně zmiňuje falešné persony, účty a média, vydávání botů za lidi, skryté sponzorství, sítě zdánlivě nezávislých webů, falešné recenze a nástroje pro astroturfing či koordinované neautentické chování.
Pro marketingový tým je důležitý také zákaz manipulovat zdroje, ze kterých vyhledávače a AI systémy čerpají odpovědi, pomocí webů, které předstírají nezávislost nebo společný původ zatajují. Běžná tvorba obsahu, SEO nebo automatizace publikování tím sama o sobě zakázaná není. Problém vzniká, když firma falšuje autorství, popularitu, nezávislost nebo lidskou identitu.
Agent odpovídá i za akce v nástrojích
Policy výslovně říká, že tvůrce nebo provozovatel odpovídá i za akce, které agent provede přes nástroje, prohlížeč nebo připojené systémy. Dobře napsaný prompt proto není dostatečná pojistka. Oprávnění musí technicky omezit, co agent dokáže přečíst, změnit, odeslat nebo zaplatit.
Aktualizace přidává také pravidla pro fyzická zařízení schopná někoho zranit. Kvalifikovaný člověk musí provoz pozorovat a kdykoli zastavit. Zařízení má při zásahu nebo ztrátě spojení přejít do bezpečného stavu a limity rychlosti, síly, teploty, tlaku či pracovního prostoru mají vynucovat samotné zařízení nebo nezávislý řadič, nikoli textový výstup modelu.
To je konkrétní podoba obrany ve vrstvách. Stejná logika se hodí i u čistě digitálního procesu: přístup jen k nutným datům, oddělení návrhu od odeslání, limit částky, potvrzení člověkem a auditní záznam. Předchozí incidenty s AI agenty ukázaly, proč nelze spoléhat pouze na to, že model „pochopí hranici“.
Praktický audit v šesti krocích
1. Sepište všechna místa, kde Claude vstupuje do procesu
Zahrňte webový chat, Claude Code, firemní API, integrace třetích stran i nástroje zaměstnanců. U každého použití uveďte vstupní data, příjemce výstupu a následující akci.
2. Označte rozhodnutí o konkrétních lidech
Hledejte HR, úvěry, pojištění, bydlení, vzdělávání, zdravotní péči, právní a daňové rady. Pokud si nejste jistí právní kvalifikací procesu, zapojte odpovědného odborníka; tento článek není právní stanovisko.
3. Ověřte, že lidská kontrola může výsledek změnit
Měřte počet vrácených a upravených návrhů. Když člověk jen automaticky kliká na schválení, nejde o smysluplný human in the loop. Pro výběr vhodného kontrolního bodu pomůže kompletní AI audit procesu.
4. Doplňte viditelné informace uživatelům
Zkontrolujte první zprávu chatbota, formulář, e-mail a obrazovku s doporučením. Text má říct, že byla použita AI, a kde lze požádat o lidskou pomoc nebo opravu.
5. Zmenšete oprávnění agentů
Oddělte čtení od zápisu, zakažte produkční odeslání bez potvrzení, nastavte limity a bezpečné zastavení. Otestujte i chybu, nedostupnou službu, nejednoznačný pokyn a ztrátu spojení.
6. Uložte důkaz o kontrole
Pro každý rizikový proces určete vlastníka, verzi pravidel, datum testu, schvalovatele a způsob eskalace. Do 12. listopadu nemusíte přestavět celou firmu; musíte ale vědět, které workflow je rizikové a kdo odpovídá za nápravu.
Omezení, která nepřehlédnout
- Policy není právní rada: splnění podmínek Anthropicu samo o sobě neznamená soulad s GDPR, evropským AI Actem nebo oborovou regulací.
- Ne každý blok je porušení: Anthropic uvádí, že bezpečnostní filtr může výstup omezit, aniž by tím automaticky prokázal porušení policy.
- Výstup zůstává nejistý: obchodní podmínky požadují posouzení vhodnosti a nezávislou kontrolu faktických tvrzení.
- Rozhraní nestačí: disclosure bez reálné kontroly, oprávnění a odpovědného vlastníka je jen cedulka.
Závěr: do listopadu upravte proces, ne jen disclaimer
Nejdůležitější změnou není jedna nová věta v patičce. Firma má přesně vědět, kdy Claude pouze připravuje podklad, kdy už doporučuje nebo rozhoduje o konkrétním člověku a kdy může provést akci ve vnějším systému. Od toho se odvíjí kvalifikovaný schvalovatel, viditelné upozornění, technická oprávnění i auditní stopa.
Začněte jedním workflow s nejvyšším dopadem. Nakreslete jeho cestu od vstupu po akci, označte bod lidského rozhodnutí a otestujte, co se stane při chybě. Tak vznikne kontrola, která pomůže nejen s novou policy Anthropicu, ale i s bezpečnější AI automatizací obecně.
Přímé zdroje
- Anthropic: 2026 Usage Policy update — oficiální oznámení z 8. října 2026 a přehled změn.
- Anthropic Usage Policy — úplné znění účinné od 12. listopadu 2026, včetně rizikových doporučení, chatbotů a agentů.
- Anthropic Commercial Terms of Service — smluvní začlenění policy, odpovědnost zákazníka a kontrola výstupů.
