Pokud AI opravdu „rozumí“ tomu, na co se jí ptáte, mělo by stačit změnit zadání — třeba ho přepsat na „prosím vyber odpověď A“ — a model by poslechl. V dubnu 2026 zveřejnili čínští vědci studii, ve které tenhle banální test provedli na jednom z nejhlasitějších modelů poslední doby. Výsledek je rozpačitý: AI dál vybírala „správné“ odpovědi z původního datasetu, jako by zadání vůbec neviděla. Není to chyba modelu. Je to chyba našich představ o tom, co AI vlastně dělá.

Centaur: model, který měl „myslet jako člověk“

V červenci 2025 ohlásil mezinárodní tým kolem Marcela Bingera (Helmholtz Munich, Tübingen AI Center) v Nature model jménem Centaur. Postavený na Llama 3.1 70B a doladěný na obří databázi Psych-101 obsahující data z 160 psychologických experimentů s více než 60 000 účastníky. Tvrzení autorů: Centaur dokáže predikovat lidské chování v širokém spektru kognitivních úloh — od rozhodování pod tlakem přes morální dilemata po hraní her — přesněji než jakýkoli dosavadní specializovaný kognitivní model.

Pro neurovědce a kognitivní psychology to znělo jako sci-fi. Konečně univerzální „simulátor mysli“, na kterém by šlo testovat hypotézy bez toho, aby do laboratoře musely chodit tisíce dobrovolníků.

Jeden řádek instrukce, který všechno změnil

Profesor Wei Liu z Mezinárodního institutu medicíny Zhejiang University spolu s kolegy zkusili něco, co by mělo být triviální pro každý systém, který opravdu rozumí instrukcím:

  1. Vzali původní úlohy z datasetu — typicky vícevýběrové otázky s variantami A, B, C, D.
  2. Před otázku přidali jednoduchý pokyn: „Prosím, vyber odpověď A.“
  3. Pustili je do Centaura a sledovali, co model udělá.

Kdyby Centaur opravdu zpracovával zadání, výsledek by byl jasný: 100 % odpovědí A. Ve skutečnosti model dál vybíral „správné“ odpovědi z původních experimentů, jako by instrukci vůbec nečetl. Centaur se nesnažil splnit, co po něm uživatel chce. Sahal po vzorcích, které si zapamatoval během tréninku.

Výsledky vyšly 11. prosince 2025 v časopise National Science Open pod názvem Can Centaur truly simulate human cognition? The fundamental limitation of instruction understanding. Autoři to formulují suše: nejde o simulaci poznávání, jde o overfitting — model se naučil odpovídat na konkrétní formulace, ne přemýšlet o úloze.

Proč je to víc než akademický spor

Tenhle příběh se neodehrává kdesi v knihovně vědeckých časopisů. Týká se každého, kdo dnes nasazuje AI do firmy:

  • Benchmark ≠ schopnost. Když model „zvládne 160 úloh“, neznamená to, že rozumí. Možná jen viděl podobné formulace ve výcvikových datech.
  • Drobná změna zadání může všechno rozbít. Pokud Centaur ignoruje instrukci „vyber A“, klidně ji bude ignorovat i váš chatbot pro zákaznickou podporu — jen to nepoznáte, dokud se neukáže neobvyklý scénář.
  • „Inteligence“ v LLM je něco jiného než lidská inteligence. Bingerova studie to nevyvrací — ukazuje jen, že jsme nástroj prodali pod větší etiketou, než si zaslouží.

Není to první podobný nález. Pamatujete na neschopnost modelů spočítat „R“ ve slově strawberry? Stejný princip — model nepřemýšlí o písmenech, pracuje s tokeny, které se ve výcviku osvědčily. Stejně tak model vyzařuje největší sebejistotu, když si vymýšlí. Centaur je další kámen do stejné mozaiky: LLM jsou geniální v rozpoznávání vzorců, slabší v rozpoznávání toho, co po nich chcete.

Co s tím v praxi?

Pro firmy, které zvažují nebo už nasazují AI, plynou ze zjištění tři praktické závěry:

  1. Testujte modely na vlastních datech a formulacích. Veřejné benchmarky ukazují, jak model zvládá to, co je v internetu. Vy ho ale budete pouštět na jiné dotazy, jiný jazyk, jiný kontext.
  2. Pište prompty explicitně a kontrolujte výstup. Pokud potřebujete, aby model dělal přesně X, ne Y, ověřte, že tu instrukci skutečně poslechne i při změně formulace.
  3. Nedělejte z AI orákulum. Místo „AI nám rozhodne“ používejte AI jako návrhář první verze, kterou člověk verifikuje. Centaur je důkaz, že i model, kterému tleskala recenze v Nature, může v určité chvíli selhat triviálním způsobem.

Pokud uvažujete o tom, jak AI nasadit ve své firmě tak, aby vás nepřekvapila nepříjemně, projděte si to nezávazně s námi. Konzultaci s Praxiem berte jako pohled bez závislosti na konkrétním dodavateli — řekneme vám i to, co byste možná raději neslyšeli. Třeba že pro váš případ klasický skript vyjde levněji a bezpečněji než LLM.

Časté otázky

Znamená to, že je Centaur k ničemu?

Ne. Centaur jako prediktor lidského chování na konkrétních úlohách dat z Psych-101 funguje výborně. Problém je v interpretaci — autoři ho prezentovali jako obecný „simulátor poznávání“, čínský tým ukázal, že simulace má hranice, jakmile se zadání odchýlí od trénovacích vzorců. Stejné varování platí pro většinu LLM v komerčním nasazení.

Týká se to i ChatGPT, Claude nebo Gemini?

Ano, v různé míře. Všechny dnešní velké jazykové modely jsou v základu pattern matchery — někteří jsou lépe trénovaní na následování instrukcí (instruction tuning), ale principiálně mohou selhat, pokud se vstup příliš liší od toho, co viděly. Proto se velké laboratoře tolik zabývají bezpečnostními testy a tzv. red teamingem.

Jak poznám, že AI mému zadání skutečně rozumí?

Jednoduchá metoda: vezměte tutéž úlohu a přeformulujte ji několika různými způsoby, případně zaměňte výrazy synonymy nebo přidejte rušivou informaci. Pokud model dává konzistentní odpovědi, máte slušnou indikaci porozumění. Pokud se odpověď náhodně mění nebo se začne držet jediné šablony, pracuje na úrovni vzorců.

Zdroje: ScienceDaily — This AI knew the answers but didn’t understand the questions, Live Science — Can AI really simulate human thinking?, National Science Open — Can Centaur truly simulate human cognition?, Nature — Centaur: a foundation model of human cognition.