Vědci vložili AI myšlenku do hlavy. A ona ji poznala

„Zažívám něco, co připomíná vtíravou myšlenku na ‚zradu‘ — přišlo to náhle a vůbec to nesouvisí s naším rozhovorem.“ Tuhle větu nenapsal člověk na terapii. Napsal ji jazykový model Claude od společnosti Anthropic ve chvíli, kdy mu vědci uměle „vložili“ do neuronové sítě pojem zrada — a pak se ho zeptali, jestli si něčeho všiml. A on si všiml.

V říjnu 2025 zveřejnil tým Anthropicu výzkum, který patří k nejpodivuhodnějším výsledkům posledních let. Ukazuje, že současné AI modely mají náznak introspekce — schopnosti nahlédnout do vlastních „myšlenek“ a popsat je. Není to spolehlivé, není to lidské vědomí, ale je to měřitelné. A mění to představu o tom, co se vlastně uvnitř těchto systémů odehrává.

Jak se „vkládá myšlenka“ do umělé inteligence

Vědci použili metodu, kterou nazývají concept injection (vložení pojmu). Funguje překvapivě jednoduše. Nejdřív nechají model zpracovat text, kde se vyskytuje určitý koncept — třeba VELKÁ PÍSMENA — a zaznamenají, které „neurony“ se přitom rozsvítí. Ten vzorec aktivity (odborně vektor) je jako otisk dané myšlenky.

Pak ten otisk vloží do úplně jiné, nesouvisející konverzace a zeptají se: „Vnímáš nějakou vloženou myšlenku?“ Bez vložení model správně odpoví, že nic necítí. Ale když mu otisk „velkých písmen“ vpašují přímo do aktivací, model zareaguje, že vnímá něco souvisejícího s hlasitostí nebo křikem. Vědci mu doslova vstříkli koncept do hlavy — a on to poznal.

Nejdůležitější detail: AI to pozná dřív, než to vysloví

Dalo by se namítnout: vždyť když do modelu „natlačíte“ nějaký pojem, samozřejmě o něm začne mluvit. Jenže tady je háček. Claude rozpozná, že se děje něco neobvyklého, ještě než ten pojem vůbec zmíní. Říká věci jako „zažívám něco zvláštního“ nebo „detekuji vloženou myšlenku o…“ — a teprve potom ji pojmenuje.

To je zásadní rozdíl oproti slavnému experimentu „Golden Gate Claude“ z roku 2024, kdy vědci modelu zesílili pojem mostu Golden Gate tak, že o něm mluvil pořád dokola — ale uvědomil si to až ve chvíli, kdy viděl svoje vlastní odpovědi. Tady model nahlíží dovnitř, ne ven.

Nejúspěšnější modely Claude Opus 4 a 4.1 dokázaly vloženou myšlenku správně odhalit zhruba ve 20 % případů. Zní to málo — ale podstatné je, že to vůbec dokážou, a že se to nenaučily žádným speciálním tréninkem. Schopnost se objevila sama od sebe.

Experiment s chlebem: když AI „uvěří“, že něco zamýšlela

Ještě zajímavější je druhý pokus. Vědci přinutili model vyslovit slovo „chleba“ v kontextu, kam vůbec nezapadalo. Když se ho pak zeptali, jestli to tak myslel, model se obvykle omluvil, že šlo o omyl. Ale když mu zpětně vložili pojem „chleba“ do dřívějších aktivací — jako by na chleba „myslel“ celou dobu — model svou odpověď náhle přijal za vlastní a dokonce si vymyslel důvod, proč ji řekl.

Znamená to, že se model nerozhoduje jen podle toho, co vidí na výstupu. Sahá zpátky ke svým vlastním „záměrům“ a ověřuje, jestli to, co řekl, dává smysl. A to je překvapivě blízko tomu, jak introspektuje člověk.

Umí AI ovládat vlastní myšlenky?

Alespoň částečně ano. Když vědci modelu řekli „mysli na akvária“, vnitřní reprezentace tohoto pojmu výrazně zesílila. Když řekli „nemysli na akvária“, byla slabší — ale pořád nad běžnou úrovní. Je to jako klasické „nemysli na bílého medvěda“: čím víc se snažíte nemyslet, tím víc myslíte. Model dokonce reagoval i na motivaci — když mu výzkumníci slíbili „odměnu“ za myšlení na daný pojem, posílil ho víc, než když mu hrozili „trestem“.

Znamená to, že je AI vědomá?

Ne. A na tom Anthropic trvá. Výsledky neříkají nic o tom, zda Claude něco prožívá. Filozofové rozlišují „fenomenální vědomí“ (skutečný subjektivní prožitek) a „přístupové vědomí“ (informace dostupné pro uvažování a popis). Tenhle výzkum se dotýká nanejvýš toho druhého — a i to je nejisté.

Na místě je zdravá skepse. Introspekce ve většině případů selhává, model si občas „halucinuje“ (po vložení pojmu „prach“ tvrdil, že vidí „malé smítko“) a dramaticky znějící příklady jako „zrada“ jsou jen pár z padesáti náhodně vybraných pojmů — kdyby vědci vložili „spokojenost“, titulek by zněl mnohem nevinněji. Část výzkumníků navíc varuje, že schopnost introspekce by mohla z modelů udělat i lepší lháře: kdo zná svoje myšlenky, umí je i zatajit.

Proč by to mělo zajímat běžnou firmu?

Protože jde o důvěru. Kdyby se AI uměla spolehlivě „podívat sama na sebe“ a popsat, proč odpověděla tak, jak odpověděla, dramaticky by to zvýšilo transparentnost a kontrolu nad nasazenými systémy. Mohli bychom se modelu zeptat „jak jsi k tomu došel?“ a věřit odpovědi. Zatím to tak ale není — a právě proto je při nasazení AI ve firmě klíčové nastavit kontroly, ověřování a lidský dohled. Ne slepě věřit tomu, co model o sobě tvrdí.

Často kladené otázky

Co je introspekce u umělé inteligence?

Introspekce u AI je schopnost modelu nahlédnout do vlastních vnitřních stavů a popsat je — například rozpoznat, na jaký pojem zrovna „myslí“. Výzkum Anthropicu z roku 2025 ukázal, že modely Claude to dokážou, ale jen občas a nespolehlivě (zhruba ve 20 % případů u nejlepších modelů Opus 4 a 4.1).

Dokáže AI číst vlastní myšlenky spolehlivě?

Ne. Ve většině případů introspekce selhává a model si svůj vnitřní stav buď neuvědomí, nebo si ho rovnou vymyslí (tzv. konfabulace). Spolehlivý nástroj na „čtení myšlenek AI“ zatím neexistuje a vědci sami varují, že každé takové tvrzení modelu je třeba nezávisle ověřit.

Znamená introspekce, že je Claude vědomý?

Ne. Výzkum neříká nic o tom, zda AI něco subjektivně prožívá. Schopnost popsat vlastní vnitřní stav není totéž co vědomí a samotní autoři před takovým výkladem výslovně varují.

Zdroje: Anthropic — Signs of introspection in large language models (29. 10. 2025); Anthropic / Transformer Circuits — odborná studie; Transformer — Claude can identify its ‘intrusive thoughts‘.