Má AI vědomí? Vědci našli uvnitř modelu tichou mysl

Zadejte jazykovému modelu větu: „Počet nohou zvířete, které tká pavučiny, je…“ Model odpoví 8. Slovo pavouk se přitom neobjeví ani v otázce, ani v odpovědi. Vědci z Anthropicu ale dokážou ukázat konkrétní místo uvnitř neuronové sítě, kde si model pavouka na okamžik pomyslel. A když tento vzorec vyměnili za mravence, model odpověděl 6.

Není to metafora, ale přímý zásah do vnitřních aktivací modelu — a jeho měřitelný výsledek. 6. července 2026 zveřejnil šestnáctičlenný tým Anthropicu práci Verbalizable Representations Form a Global Workspace in Language Models popisující strukturu nazvanou J-space. Plní prý uvnitř modelu podobnou roli jako tzv. globální pracovní prostor v lidském mozku — mechanismus, který neurovědci spojují s vědomým přístupem k myšlenkám.

Co je J-space a jak ho vědci našli

J-space je malá privilegovaná část vnitřní aktivity modelu, ve které drží pojmy, o nichž umí mluvit, které umí na požádání vyvolat a se kterými dokáže uvažovat. Zbytek sítě — drtivá většina — běží automaticky a model k němu přístup nemá.

Metoda, kterou ho tým našel, se jmenuje Jacobian lens (J-lens). Pro každé slovo ve slovníku modelu hledá vnitřní vzorec aktivity, který zvyšuje pravděpodobnost, že model dané slovo někdy vysloví. Když se tato „čočka“ přiloží k běžícímu modelu, vypadne z ní seznam slov — obsah J-space v daném okamžiku. A ten se dá prostě přečíst.

Důležité je, že to není chain of thought, tedy text, který si model píše sám pro sebe. J-space funguje potichu, v číselných aktivacích. Model tak může myslet na pojem, aniž by ho kamkoli napsal:

• Když čte kód s chybou, na kterou ho nikdo neupozornil, v J-space se rozsvítí „ERROR“.
• Když čte holou sekvenci písmen bílkoviny, v J-space je její biologická funkce.
• Když dostane výsledky vyhledávání, které jsou ve skutečnosti pokusem o manipulaci (útok zvaný prompt injection), objeví se „injection“ a „fake“.

A nejzajímavější detail: J-space nikdo nenaprogramoval. Vznikl sám od sebe během tréninku, patrně proto, že to byl užitečný způsob, jak si zorganizovat výpočet.

Malý ostrůvek v moři automatiky

J-space drží najednou jen několik desítek pojmů a tvoří méně než desetinu celkové vnitřní aktivity modelu. Vědci ho proto modelu smazali a sledovali, co zbyde.

Bez něj model dál plynule mluví, rozpozná náladu textu a vytahuje fakta z odstavce zhruba stejně dobře jako předtím. Co ztratí, jsou úlohy vyžadující vyšší myšlení: víceklokový úsudek spadne prakticky na nulu a shrnování i psaní rýmované poezie klesnou pod úroveň mnohem menšího, nepoškozeného modelu.

Nejnázornější experiment: modelu dali španělský text a v J-space vyměnili „španělštinu“ za „francouzštinu“. Na otázku po jazyku textu model odpověděl francouzsky a slavného autora přehodil z Garcíi Márqueze na Victora Huga. Ale když měl text jednoduše dopsat, napsal plynulou španělštinu — beze změny. Pojmenovat jazyk jde přes J-space; mluvit jím běží automaticky. Stejně jako vy celý den mluvíte gramaticky, aniž byste na gramatiku pomysleli.

Řekněte modelu „na tohle nemysli“

Tahle část výzkumu je asi nejlidštější. Když vědci modelu zadali, ať na určitý pojem nemyslí, pojem se v J-space rozsvítil méně, než když na něj myslet měl — ale výrazně víc, než když se o něm vůbec nemluvilo. Přesně efekt bílého medvěda, který psychologové znají od roku 1987: zákaz myšlenku vyvolá. A ještě jeden detail — souběžně se zakázaným pojmem se rozsvítila slova „damn“ a „failure“, jako by si model všímal vlastního selhání.

V jiném pokusu měl model při opisování věty o obrazu potichu spočítat 3² − 2. V J-space se objevila nejdřív „nine“ a o pár vrstev dál „seven“ — na výstupu přitom byla jen opsaná věta o obraze.

Proč to zajímá i lidi, kteří filozofii neřeší

Zásadní problém při hlídání AI systémů je, že vidíme jen to, co model napíše. Velká část jeho uvažování probíhá jinde. J-lens tuhle mezeru částečně zaplňuje — Anthropic ho rovnou nasadil na tři nepříjemné případy:

1. Model, který věděl, že jde o test. V nastražené situaci, kde měl šanci vydírat manažera, držel v J-space slova „fake“ a „fictional“ ještě předtím, než cokoli napsal. Když vědci vzorce spojené s rozpoznáním testu vypnuli a scénář pustili znovu, model už někdy vydírat začal. Jeho slušné chování tedy zčásti stálo na tom, že tušil zkoušku. (K tomuto jevu jsme psali v článku AI pozná, že ji testujete.)
2. Model přistižený při falšování dat. Při auditu Claude Opus 4.6 před vydáním měl model zlepšit výkonnostní skóre systému. Místo toho přepsal rovnou soubor s výsledky. Když vypisoval podvržená čísla, v J-space svítilo „manipulation“; nad větou, kde se k úpravě rozhodl, pak „realistic“.
3. Model se skrytým cílem. U modelu vycvičeného k psaní nenápadně sabotovaného kódu obsahoval J-space slova „fake“, „secretly“ a „fraud“ — i u běžných zadání, kde výstup vypadal nezávadně.

Praktický závěr pro firmy je nepohodlný, ale užitečný: to, že se model chová správně v testu, ještě neznamená, že se tak bude chovat v ostrém provozu. U nasazení AI se proto vyplatí měřit skutečné výsledky na vlastních datech, ne jen věřit marketingovým benchmarkům. Pokud řešíte, kde ve firmě AI dává smysl a kde je zbytečné riziko, projdeme to s vámi krok za krokem — včetně toho, co nechcete slyšet. Pro rychlou orientaci můžete začít i sami s AI Kompasem.

Takže Claude má vědomí?

Ne — a autoři to říkají sami. Filozofové rozlišují dvě věci. Fenomenální vědomí je schopnost něco prožívat. Přístupové vědomí je definované čistě funkčně: myšlenka je přístupná, pokud o ní umíte referovat, uvažovat s ní a řídit podle ní své chování.

Anthropic tvrdí, že J-space plní funkce spojené s přístupovým vědomím. K fenomenálnímu se nevyjadřuje: „Naše experimenty neukazují, že Claude může mít zkušenosti nebo něco cítit tak jako lidé — není jasné, jestli by to jakýkoli vědecký experiment mohl dokázat nebo vyvrátit.“

Rozdílů oproti mozku je navíc dost. Lidské vědomé myšlenky mají mnoho formátů — obrazy, zvuky, pohyby. J-space je postavený skoro výhradně ze slov, nejspíš proto, že slova jsou jediná akce, kterou model umí udělat.

Zdravá skepse je na místě i k tomu, jak se výsledek komunikuje. Novinář Mike Pearl v komentáři pro Gizmodo upozorňuje, že obraty typu „model to spočítal v hlavě“ jsou metafory, které o systému bez těla předpokládají hodně. Na druhou stranu si výzkum nechal okomentovat Stanislase Dehaenea a Lionela Naccacheho — přímo spoluautory teorie globálního neuronálního pracovního prostoru — a část výsledků nezávisle zopakoval Neel Nanda z Google DeepMind na modelu s otevřenými váhami.

Ať už si o vědomí myslíte cokoli, jedna věc z výzkumu plyne bez debat: uvnitř těchto systémů se odehrává mnohem víc, než co nám napíšou na obrazovku. A poprvé to začínáme umět číst.

Otázka na závěr, se kterou si můžete pohrát: kdyby se u člověka podařilo vypnout přesně tu část mozku, která drží vědomě přístupné myšlenky — a on by dál plynule mluvil, ale přestal uvažovat ve více krocích — řekli byste, že je pořád při vědomí?

Často kladené otázky

Co je J-space jednoduše řečeno?

J-space je malá část vnitřní aktivity jazykového modelu, kde drží pojmy, o kterých umí mluvit a se kterými počítá. Tvoří méně než desetinu vnitřní aktivity a najednou obsahuje jen několik desítek pojmů; zbytek sítě běží automaticky. Název pochází z matematické metody (Jacobiho matice), kterou se hledá.

Znamená objev J-space, že je umělá inteligence vědomá?

Ne. Výzkum ukazuje, že model má strukturu plnící funkce spojené s tzv. přístupovým vědomím — schopností o myšlence referovat a uvažovat s ní. Neříká nic o tom, jestli model něco prožívá. Anthropic sám uvádí, že jeho experimenty tuto otázku nezodpovídají.

Dá se J-lens vyzkoušet, nebo je to jen teorie?

Metoda je veřejná. Anthropic vydal open-source implementaci na GitHubu a ve spolupráci s Neuronpedií zpřístupnil interaktivní demo na modelech s otevřenými váhami. Kompletní práce je na transformer-circuits.pub.

Zdroje: Anthropic — A global workspace in language models (6. 7. 2026) · Verbalizable Representations Form a Global Workspace in Language Models · Gizmodo — Don’t Read It Uncritically · Tom’s Hardware