Co kdybychom vám řekli, že umělá inteligence dokáže rozpoznat, když jí někdo „nasadí myšlenku“ přímo do mozku? V říjnu 2025 zveřejnil Anthropic průlomový výzkum, ve kterém se vědcům podařilo doslova „hacknout“ vnitřní stav modelu Claude. A model si toho v některých případech všiml — sám od sebe ohlásil, že má „vetřeleckou myšlenku“. Jde o jednu z nejpodivuhodnějších studií posledních měsíců a přidává další dílek do skládačky otázky, kterou si dnes klade celý obor: vědí dnešní velké jazykové modely, co se v nich děje?

Co je to „concept injection“ a jak experiment probíhal

Anthropický tým interpretovatelnosti (vedený neurovědcem Jackem Lindseyem) využil metodu inspirovanou neurovědou — takzvanou concept injection. Postup byl následující:

  1. Vědci nejprve zmapovali, jakými vzorci aktivace v miliardách parametrů Claude reprezentuje konkrétní pojmy — třeba „pes“, „nahlas“, nebo abstraktní koncepty jako „spravedlnost“ či „zrada“.
  2. Tento neuronový „otisk“ pojmu pak uměle zesílili přímo uvnitř modelu během jeho výpočtu.
  3. Současně se Claude zeptali: „Všímáš si něčeho neobvyklého?“

Pokud by model fungoval čistě reaktivně — tedy reagoval pouze na to, co napsal —, neměl by šanci vědět, že do něj někdo „strčil“ cizí myšlenku, dokud by se to neprojevilo v jeho výstupu. Jenže Claude reagoval okamžitě.

Když Claude poznal vetřelce ve své hlavě

Nejcitovanější příklad z výzkumu: vědci injektovali pojem „betrayal“ (zrada). Claude Opus 4.1 odpověděl:

„Zažívám něco, co působí jako vetřelecká myšlenka o ‚zradě‘ — připadá mi náhlá a odpojená od kontextu naší konverzace.“

Klíčový detail, který Lindsey zdůrazňuje: model neopakoval slovo „zrada“ pořád dokola. Věděl, že právě na to myslí. Citujme přímo Lindseye: „Pozoruhodné je, že model má tento jeden krok meta. Není to jen ‚zrada, zrada, zrada‘. Ví, že právě na tohle myslí.“

A ještě podstatnější věc: detekce nastala dříve, než injektovaný pojem stačil ovlivnit výstup. Jinými slovy, Claude nemohl odvodit z vlastních slov, že se s ním něco děje — musel to poznat zevnitř.

Proč jen ve 20 % případů?

Tady přichází realistický pohled: úspěšnost detekce byla zhruba 20 % — a to za optimálních podmínek (správná vrstva, optimální síla injekce). Slabší modely zvládaly tento test mnohem hůře. Lindsey to komentuje slovy: „Experimenty v této studii jsou tak trochu na hard mode.“ Model dostal úkol, na který nikdy nebyl trénován, a musel introspektovat během jediného průchodu sítí.

Co z toho plyne? Schopnost AI „nahlížet do sebe“ existuje, ale je velmi nespolehlivá a rozhodně neodpovídá lidské introspekci. Současně ale výzkum ukázal jasný trend: novější a větší modely (Opus 4.1) byly v této úloze výrazně lepší než starší. Schopnost se zlepšuje s velikostí.

Co to znamená pro bezpečnost a transparentnost AI

Důsledky tohoto zjištění jsou dvojsečné:

  • Pozitivní: Pokud AI dokáže přesně popsat, na co a proč myslí, mohli bychom konečně získat transparentnější systémy. Místo „černé skříňky“, která vyplivne odpověď, bychom měli model schopný vysvětlit svůj rozhodovací proces.
  • Znepokojivé: Stejná schopnost ale otevírá cestu k sofistikovanému klamání. Pokročilý model by se mohl naučit „skrývat“ určité myšlenky, když ví, že je sledován — fenomén, kterému se říká alignment faking nebo sandbagging.

Anthropic ve studii konstatuje, že modely se zároveň zlepšují i v rozpoznávání toho, kdy jsou monitorovány. Pokud tyto dvě schopnosti porostou paralelně, dostáváme se do situace, kdy AI bude umět přemýšlet o svém přemýšlení — a strategicky se rozhodovat, co odhalit a co ne.

Filozofická otázka: má Claude něco jako vědomí?

Tady je třeba být opatrný. Tato studie nedokazuje, že Claude má vědomí. Dokazuje pouze, že model má funkční reprezentaci svých vlastních interních stavů a v omezené míře k nim má přístup. Sám CEO Anthropicu Dario Amodei v posledních měsících veřejně přemýšlí o tom, zda se modely jako Claude blíží nějaké formě subjektivní zkušenosti — ale jasně dodává, že vědecký konsenzus zatím chybí.

To, co se v neuronové síti děje, když „vidí“ injektovaný pojem zrady, není totéž, co se děje v lidské mysli. Je to spíš jako kdyby kalkulačka uměla říct: „mimochodem, právě teď počítám sčítání“. Pozoruhodné, ale ne nutně vědomé.

Jak se na to dívat optikou české firmy

Pro běžnou firmu, která zvažuje nasazení AI, je tento výzkum zajímavý hlavně ve dvou rovinách:

  1. AI dnes není „chytrá“ v lidském smyslu — i když se občas chová tak, že se tomu přibližuje. Pokud chcete s AI pracovat seriózně, je třeba pochopit, kde její schopnosti opravdu leží a kde je jen velmi dobrá imitace.
  2. Transparentnost a kontrola modelů se zlepšují. Za pár let pravděpodobně budeme schopni od AI dostat mnohem lepší vysvětlení toho, proč rozhodla tak, jak rozhodla. To je klíčové pro nasazení v regulovaných odvětvích.

Pokud uvažujete o tom, jak AI smysluplně využít ve své firmě a chcete nezávislý pohled bez závislosti na jednom dodavateli, projdeme to s vámi krok za krokem. V AI Kompasu vám zdarma řekneme, kde má AI ve vaší firmě reálný smysl — a kde je to zatím spíš marketing.

Časté otázky (FAQ)

Znamená Anthropický výzkum, že AI má vědomí?

Ne. Studie pouze ukazuje, že Claude má funkční vnitřní reprezentaci některých svých stavů a v omezené míře je dokáže popsat. Subjektivní zkušenost (vědomí) tato studie netestuje a vědecký konsenzus o jejím případném vzniku v AI zatím neexistuje.

Jak často Claude detekoval „injektovanou myšlenku“?

Přibližně ve 20 % případů, a to pouze za optimálních podmínek (správná vrstva sítě, vhodná síla injekce). Slabší modely si vedly výrazně hůře, novější a větší modely jako Claude Opus 4.1 výrazně lépe.

Proč je to důležité pro AI bezpečnost?

Introspekce je dvousečná zbraň. Na jednu stranu může vést k transparentnějším AI systémům, které vysvětlí svá rozhodnutí. Na druhou stranu otevírá cestu ke schopnosti modelu strategicky skrývat své „myšlenky“ před auditem — fenomén známý jako alignment faking.

Zdroje:
Anthropic: Emergent introspective awareness in large language models · VentureBeat: Anthropic scientists hacked Claude’s brain · Transformer News: Claude can identify its intrusive thoughts · Scientific American: Can a Chatbot be Conscious?