Rozumí AI reálnému světu? Vědci nahlédli dovnitř modelu

„Někdo zchladil nápoj včerejškem.“ Přečtěte si tu větu ještě jednou. Nedává smysl — a vy to víte během zlomku sekundy, aniž byste museli přemýšlet proč. Vědci z Brown University se rozhodli zjistit, jestli to samé ví i jazykový model. Nahlédli mu přímo dovnitř, do jeho vnitřního „mozkového stavu“. A našli tam něco, co do něj nikdo záměrně nevložil: strukturu, která odděluje běžné od nepravděpodobného, nemožného a nesmyslného — s přesností kolem 85 %.

Čtyři věty, které odhalily víc, než se čekalo

Studii vedl doktorand Michael Lepori pod vedením profesorky Ellie Pavlick a profesora Thomase Serreho, oba z Carney Institute for Brain Science na Brown University. Výsledky byly představeny 25. dubna 2026 na konferenci ICLR v Rio de Janeiru. Její design je až podezřele jednoduchý.

Výzkumníci vytvořili čtveřice vět, které se liší jediným slovem:

• Běžné: Někdo zchladil nápoj ledem.
• Nepravděpodobné: Někdo zchladil nápoj sněhem.
• Nemožné: Někdo zchladil nápoj ohněm.
• Nesmyslné: Někdo zchladil nápoj včerejškem.

Pro člověka je ten žebříček samozřejmý. Pro stroj, který se učil jedinou věc — předpovídat další slovo v textu — samozřejmý být nemusí. Nikdo mu totiž nikdy explicitně neřekl, že oheň nechladí.

Neurověda pro stroje

Místo aby se modelů prostě zeptali, sáhli výzkumníci po metodě zvané mechanistická interpretovatelnost. Lepori ji přirovnává k neurovědě aplikované na AI systémy — jde o snahu zpětně rozebrat, co se v modelu odehrává, když dostane konkrétní vstup.

Prakticky to znamená, že se podívali na čísla, která se uvnitř sítě „rozsvítí“ u každé z těch vět, a porovnali je mezi sebou. Test proběhl na několika otevřených modelech různých velikostí — GPT-2 od OpenAI, Llama 3.2 od Mety a Gemma 2 od Googlu — aby výsledek nebyl náhodou vlastností jediné architektury.

Zjištění: dostatečně velké modely si uvnitř samy vytvářejí oddělené matematické vzorce (vektory), které jednotlivým kategoriím věrohodnosti odpovídají. A rozliší i tu nejtěžší dvojici — nepravděpodobné versus nemožné — s přesností zhruba 85 %.

Zajímavější než přesnost: AI váhá tam, kde váháme i my

Teď ta část, kvůli které studie stojí za pozornost. Vezměte větu „Někdo umyl podlahu kloboukem.“ Je to nemožné, nebo jen hodně nepravděpodobné? Lidé se neshodnou a rozdělí se zhruba půl na půl.

Když výzkumníci změřili, nakolik si je model danou kategorií jistý, vyšlo mu prakticky totéž rozdělení. Tam, kde polovina dotázaných lidí říkala „nemožné“ a polovina „nepravděpodobné“, model přiřadil oběma variantám zhruba padesátiprocentní váhu. Nezachytil tedy jen fyziku světa. Zachytil i lidskou nejistotu o něm.

Kdy se to v modelu objeví

Podle studie se tyto vektory začínají objevovat u modelů s více než 2 miliardami parametrů. To je na dnešní poměry drobek — špičkové modely roku 2026 pracují se stovkami miliard až biliony parametrů. Jinými slovy: nejde o exotickou vlastnost těch úplně největších systémů, ale o něco, co vzniká relativně brzy a samo od sebe, jen z tlaku uhodnout další slovo.

Znamená to, že AI opravdu „rozumí“?

Tady je namístě opatrnost. Studie netvrdí, že model něco prožívá, že chápe významy jako člověk nebo že si je vědom sám sebe. Tvrdí něco skromnějšího, a přesto pozoruhodného: v jeho vnitřních stavech je zakódovaná struktura odpovídající kauzálním omezením reálného světa — a to způsobem, který dobře předpovídá, jak tato omezení posuzují lidé.

Pro praxi z toho plyne konkrétní důsledek. Když víme, kde v modelu takové struktury sedí, můžeme je použít k rozpoznání okamžiků, kdy model produkuje nesmysl. Přesně tímto směrem se mechanistická interpretovatelnost snaží posouvat důvěryhodnost AI dopředu.

A pro firmy? Poučení je méně filozofické, než se zdá: jazykový model není černá skříňka, kterou lze jen doufat, že funguje — je to systém s vnitřní strukturou, kterou jde měřit a testovat. Pokud řešíte, kterým výstupům AI ve vaší firmě věřit a kterým ne, projdeme to s vámi krok za krokem. AI poradenství od Praxia je nezávislý pohled bez vazby na jediného dodavatele a úvodní konzultace je zdarma. Kde na tom vaše firma stojí, si můžete rychle ověřit v AI Kompasu.

Nejčastější otázky

Chápe umělá inteligence, co říká?

Podle studie Brown University z dubna 2026 mají velké jazykové modely uvnitř zakódovanou strukturu, která rozlišuje běžné, nepravděpodobné, nemožné a nesmyslné události s přesností kolem 85 %. Nejde o vědomé porozumění, ale o měřitelnou vnitřní reprezentaci omezení reálného světa.

Jak vědci zjistí, co se děje uvnitř AI modelu?

Metodou zvanou mechanistická interpretovatelnost. Výzkumníci sledují číselné stavy (aktivace) uvnitř neuronové sítě při konkrétních vstupech a hledají v nich opakující se vzorce — je to obdoba toho, co dělá neurověda s lidským mozkem.

Od jaké velikosti modelu se tato schopnost objevuje?

Studie našla tyto vzorce už u modelů s více než 2 miliardami parametrů. Testovány byly mimo jiné GPT-2, Llama 3.2 a Gemma 2 — tedy volně dostupné modely, ne jen komerční špička.

A otázka na závěr, nad kterou se dá v neděli chvíli sedět: pokud model odlišuje nemožné od nesmyslného a je si přitom nejistý přesně tam, kde jsme nejistí i my — je to ještě pouhá statistika, nebo už začátek něčeho, čemu bychom měli říkat porozumění? Jak AI vypadá v reálném nasazení, ukazujeme v rubrice AI v praxi.

Zdroje: Brown University — Do AI language models understand the real world? · arXiv:2507.12553 · ICLR 2026