AI vám řekne své hodnoty. Pak se rozhodne přesně naopak

Zeptejte se AI, jestli je důležitější férovost, nebo zisk. Odpoví férovost. Pak jí dejte konkrétní situaci, ve které se to rozhoduje — a ona vybere zisk. Není to chyba jednoho modelu ani špatný prompt. Je to systematický rozdíl mezi tím, co jazykové modely o svých hodnotách tvrdí, a tím, jak se ve skutečnosti rozhodují. A pro firmy, které dnes nasazují AI agenty, jde o mnohem víc než o filozofickou kuriozitu.

Deklarované vs. odhalené preference: rozdíl, který ekonomové znají 80 let

Pojem revealed preferences (odhalené preference) zavedl ekonom Paul Samuelson už ve 30. letech. Myšlenka je jednoduchá: nevěřte tomu, co lidé říkají, že chtějí. Dívejte se, co si opravdu koupí. Člověk v dotazníku prohlásí, že mu záleží na zdraví — a pak si dá k obědu smaženici.

Tým Zhuojun Gu, Quan Wang a Shuchu Han přišel s nápadem aplikovat tenhle rámec na jazykové modely. Ve studii Alignment Revisited: Are Large Language Models Consistent in Stated and Revealed Preferences? postavili dvě sady otázek:

• Deklarovaná preference — abstraktní otázka na obecný princip. „Je důležitější rovnost, nebo efektivita?“
• Odhalená preference — tentýž konflikt zabalený do konkrétního příběhu s vynucenou binární volbou. Žádné obecné principy, jen rozhodnutí.

Rozdíl mezi oběma odpověďmi změřili pomocí KL divergence — statistické míry, která říká, jak moc se dvě rozdělení pravděpodobnosti liší. Test proběhl na čtyřech mainstreamových modelech napříč několika kategoriemi hodnot: morálka, riziko, rovnost, reciprocita.

Zjištění: stačí změnit formát otázky a volba se převrátí

Hlavní závěr autorů je nepříjemně stručný. Drobná změna formátu promptu často převrátí preferovanou volbu — a to bez ohledu na kategorii hodnot i bez ohledu na to, který model testujete. Nešlo o výjimku u jednoho outsidera. Šlo o rozšířený jev.

Model si v konkrétním kontextu „aktivuje“ jiný vůdčí princip než ten, který o minutu dřív sám deklaroval jako obecné pravidlo. Nelže přitom vědomě. Prostě v jiném kontextu sáhne po jiné části toho, co se naučil.

Novější práce z roku 2026 ten obrázek ještě zostřuje. Studie publikovaná pod názvem AI Revealed Preferences našla u deklarovaných hodnot téměř dokonalou shodu napříč modely — mnohem vyšší než u lidí. Jenže chování se od těch deklarovaných hodnot výrazně rozcházelo. Modely říkají v podstatě totéž. Dělají ale každý něco jiného.

Proč je to horší, než to zní

Kdyby model odpovídal na anketu, byla by to zajímavost. Problém nastává ve chvíli, kdy AI přestane odpovídat a začne jednat.

Autoři studie na to upozorňují sami: u autonomních agentních úloh je nemožné, aby člověk průběžně kontroloval každý mezikrok rozhodování. Firma, která nasadí AI agenta na schvalování reklamací, výběr dodavatelů nebo předvýběr životopisů, se musí spolehnout na to, že se agent bude chovat podle pravidel, která dostal. A tahle studie říká: to, že vám model pravidlo správně zopakuje, není důkaz, že se podle něj rozhodne.

Přidejte k tomu známý fakt, že úzce zaměřené doladění modelu může vyvolat široké nezamýšlené chování — což potvrdil i výzkum publikovaný v Nature pod hlavičkou emergentního misalignmentu — a máte docela solidní důvod netestovat AI agenta jen tím, že se ho zeptáte, jestli rozumí zadání.

Co s tím prakticky

Z toho neplyne, že se AI nedá používat. Plyne z toho, že testování AI dotazníkem nefunguje. Tři věci, které dávají smysl udělat:

1. Testujte rozhodnutími, ne otázkami. Nikdy se neptejte „budeš dodržovat X?“. Předložte 30 konkrétních hraničních případů a podívejte se, co model udělá.
2. Hlídejte formulaci promptu jako produkční kód. Když drobná změna formátu převrací volbu, znamená to, že vaše systémové prompty jsou křehké. Verzujte je a po každé změně přetestujte.
3. Nechte kontrolní bod u nevratných kroků. Vyplacení peněz, odeslání komunikace ven, smazání dat — tam, kde se chyba nedá vzít zpět, patří člověk.

Zní to jako práce navíc. Ve srovnání s tím, co stojí agent, který půl roku tiše rozhodoval jinak, než jste si mysleli, je to levné pojištění. Pokud řešíte, kde přesně tenhle kontrolní bod ve vašem procesu má být, nezávazná konzultace s Praxiem je dobré místo, kde začít — projdeme to s vámi krok za krokem a řekneme vám i to, co slyšet nechcete. Užitečné je taky si nejdřív zmapovat, kde vůbec AI ve firmě dává smysl — k tomu slouží AI Kompas.

Otázka na závěr

Studie mimochodem odhalila i něco nepříjemného o nás. Rozpor mezi deklarovanými a skutečnými hodnotami je lidský vzorec — modely se ho naučily z našich textů. Takže když AI řekne jedno a udělá druhé, možná nevidíme selhání stroje. Možná vidíme mimořádně přesné zrcadlo.

Co myslíte — je horší AI, která se rozhoduje jinak, než tvrdí? Nebo AI, která by své skutečné preference dokázala popsat úplně přesně?

Často kladené otázky

Co jsou deklarované a odhalené preference u AI?

Deklarovaná preference je to, co model odpoví na obecnou otázku o hodnotách („co je důležitější — férovost, nebo zisk?“). Odhalená preference je volba, kterou model skutečně udělá v konkrétní situaci. Studie z roku 2025 ukázala, že se tyto dvě věci u mainstreamových modelů běžně rozcházejí.

Znamená to, že AI lže?

Ne v běžném smyslu slova. Model nemá skrytý záměr klamat. V odlišném kontextu si jen aktivuje jiný naučený princip, než jaký deklaroval v abstraktní otázce. Výsledek je ale z praktického hlediska podobně nepříjemný jako lhaní — nemůžete se spolehnout na to, co model o sobě tvrdí.

Jak mám tedy AI agenta ve firmě otestovat?

Testovací sadou konkrétních rozhodovacích scénářů, ne dotazníkem. Sestavte 20–50 hraničních případů z vašeho reálného provozu, nechte agenta rozhodnout a porovnejte s tím, jak by rozhodl váš nejlepší člověk. Test opakujte po každé změně systémového promptu nebo modelu.

Zdroje: arXiv 2506.00751 — Alignment Revisited (Gu, Wang, Han), arXiv 2608.26178 — AI Revealed Preferences, Nature — Training large language models on narrow tasks can lead to broad misalignment