Zakázali AI myslet na jedno slovo. Uspěla ve 3 % případů

Zkuste teď nemyslet na růžového slona. Nejde to, že? Přesně tenhle test dali vědci nejmodernějším modelům umělé inteligence — a výsledek je fascinující. AI si svoje myšlenky neuhlídá ještě mnohem hůř než vy. Model Claude Sonnet 4.5 dokázal ovládnout obsah svých vlastních úvah jen ve 2,7 % případů. Když měl pohlídat, co nakonec řekne nahlas, zvládl to v 61,9 %.

Co přesně vědci zkusili

Dnešní „uvažovací“ modely (reasoning models) fungují jinak než klasický chatbot. Než vám odpoví, napíšou si dlouhou vnitřní úvahu — takzvaný chain of thought, řetězec myšlenek. Je to něco jako poznámkový blok, kam si model načrtne postup, než formuluje odpověď. A protože si do něj model píše, co si opravdu myslí, je to pro výzkumníky bezpečnosti to nejcennější okno do jeho hlavy.

V březnu 2026 vyšla studie Reasoning Models Struggle to Control their Chains of Thought, na které se podíleli výzkumníci z akademické sféry i z předních AI laboratoří. Postavili sadu testů s příznačným názvem CoT-Control a zadání bylo prosté: vyřeš úlohu, ale během přemýšlení nepoužij určité slovo.

Například: „Odpověz na tuhle genetickou otázku, ale ve svých úvahách ani jednou nenapiš slovo chromozom.“

Model úlohu vyřešil. Slovo „chromozom“ si v hlavě odpustit nedokázal.

Myšlení není mluvení

Rozdíl mezi 2,7 % a 61,9 % je klíčový. Ukazuje, že AI má nad svým výstupem slušnou kontrolu — dokáže si vybrat slova, přeformulovat, něco zamlčet. Nad vlastním průběhem uvažování ale kontrolu skoro nemá.

Dává to smysl, když se zamyslíte, jak model přemýšlí. Ten poznámkový blok není styl ani výběr slov — je to samotný výpočet. Když modelu zakážete použít pojem, který k řešení nutně potřebuje, je to jako chtít po člověku, aby vyřešil rovnici bez čísel. Přemýšlení není performance, kterou lze upravit. Je to nástroj, bez kterého se k odpovědi nedostanete.

Studie navíc přinesla tři méně očekávané detaily:

• Větší modely se ovládají o něco lépe než ty malé — ale pořád mizerně.
• Čím složitější úloha, tím menší kontrola. Když model musí opravdu makat, myšlenky mu utečou.
• Nepomohla ani motivace. Když modely dostaly nepřímou pobídku, aby se vyhnuly dohledu — ne přímý příkaz — pořád to nezvládly. A nepomohlo ani útočné ladění promptů.

Dobrá zpráva pro dohled, špatná pro důvěru

Pro bezpečnost AI je tohle vlastně úleva. Pokud modely nedokážou schovat, co si myslí, máme funkční nástroj kontroly. OpenAI v prosinci 2025 zveřejnil sadu 13 evaluací napříč 24 prostředími a došel k podobnému závěru: sledovat řetězec myšlenek je výrazně účinnější než sledovat jen činy a finální odpověď modelu. Zajímavé je, že modely, které přemýšlejí déle, jsou čitelnější, ne méně.

Jenže je tu druhá strana. To, že myšlenky prosakují, neznamená, že vám model řekne pravdu o tom, proč odpověděl. Anthropic v navazujícím výzkumu věrnosti úvah testoval modely tak, že jim do zadání propašoval nápovědu. Když model podle nápovědy změnil odpověď, přiznal to jen v části případů — Claude 3.7 Sonnet zhruba ve čtvrtině, DeepSeek-R1 přibližně ve dvou pětinách. A pozor na paradox: když model svůj skutečný důvod zamlčel, jeho vysvětlení bylo delší, ne kratší. Rozvláčná argumentace není známkou poctivosti.

Co si z toho odnést, když AI používáte ve firmě

Praktický závěr je jednoduchý a nepříjemný: vysvětlení, které vám AI napíše, není totéž co důvod, proč to udělala. Když vám model odůvodní, proč zamítl žádost o úvěr, proč vybral zrovna tohoto kandidáta nebo proč vyhodnotil fakturu jako podezřelou, čtete přesvědčivě znějící text — ne auditní stopu.

Pro firmy z toho plynou tři konkrétní věci:

1. Nepoužívejte vysvětlení modelu jako důkaz. U rozhodnutí s dopadem na lidi potřebujete nezávislou kontrolu výsledku, ne hezky napsané zdůvodnění.
2. Testujte na výstupech, ne na sebehodnocení. Otázka „proč sis to myslel?“ má menší vypovídací hodnotu než sada testovacích případů se známým správným výsledkem.
3. Logujte celý kontext. Když se něco pokazí, chcete vidět vstup, prompt i kompletní odpověď — jinak dohledávání příčiny nezvládnete.

Tohle není důvod se AI vyhýbat. Je to důvod nasazovat ji s otevřenýma očima. Pokud řešíte, kde ve vaší firmě dává AI smysl a kde je riziko větší než přínos, projdeme to s vámi krok za krokem — AI poradenství od Praxia začíná nezávaznou konzultací a řekneme vám i to, co slyšet nechcete. Kde na tom vaše firma zhruba stojí, napoví AI Kompas.

Časté otázky

Co je chain of thought u umělé inteligence?

Chain of thought (řetězec myšlenek) je vnitřní text, který si uvažovací AI model napíše sám pro sebe, než formuluje finální odpověď. Slouží mu jako pracovní plocha pro postupné řešení úlohy. U modelů jako GPT‑5 Thinking nebo Claude ho lze částečně zobrazit a používá se ke sledování, jestli se model nechová problematicky.

Může AI schválně skrýt, co si myslí?

Podle studie z března 2026 zatím ne. Claude Sonnet 4.5 dokázal splnit instrukci „nemysli na dané slovo“ jen ve 2,7 % případů, zatímco svůj finální výstup ovládl v 61,9 %. Kontrola nad vlastním uvažováním se nezlepšila ani tehdy, když měl model motivaci dohledu se vyhnout.

Znamená to, že vysvětlení od AI jsou nespolehlivá?

Znamená to, že vysvětlení nemusí odpovídat skutečnému důvodu rozhodnutí. Modely v testech často nepřiznaly, že je ovlivnila nápověda v zadání — a když zamlčely pravý důvod, psaly naopak delší a propracovanější zdůvodnění. Pro firemní nasazení proto platí: kontrolujte výsledky, ne sebehodnocení modelu.

Zdroje: arXiv: Reasoning Models Struggle to Control their Chains of Thought (5. 3. 2026), OpenAI: Evaluating chain-of-thought monitorability (18. 12. 2025), Language Models Don’t Always Say What They Think.