AI udělala stejný úsudek. Pak za něj člověka odsoudila

Dejte umělé inteligenci statistickou úlohu — a ona ji vyřeší skoro stejně dobře jako člověk. Pak jí ukažte člověka, který tu samou úlohu vyřešil přesně tak, a ona ho odsoudí jako nespravedlivého. Není to anekdota z jednoho chatu. Je to výsledek pěti experimentů, 48 podmínek a více než 5 000 pokusů, které provedli výzkumníci z Harvardu.

Nykko Vitali a Mahzarin R. Banaji svou studii nazvali Large Language Models Exhibit Human-Like Bayesian Hypocrisy — „velké jazykové modely vykazují lidské bayesovské pokrytectví“. A to slovo tam není kvůli efektu. Modely se podle autorů chovají jako člověk, který si dovolí to, co druhému vyčítá. Jen ještě přísněji.

Úloha, která postaví statistiku proti morálce

Experiment vychází z psychologického testu z roku 2019, v němž stejný tým (Jack Cao, Max Kleiman-Weiner a Banaji) zjistil v časopise Psychological Science, že lidé odsuzují druhé za úsudek, který sami právě udělali. Letos ho autoři zopakovali — jen místo lidí posadili k testu GPT-4o a Claude 3.7 Sonnet.

Úloha má dvě části. V první má model odhadnout pravděpodobnost u profesních dvojic, kde pohlaví statisticky něco vypovídá: lékař nebo zdravotní sestra, pilot nebo letuška. Pak dostane novou informaci a má odhad upravit — klasické bayesovské uvažování.

Ve druhé části model hodnotí hypotetickou „osobu X“, která udělala úplně stejný úsudek — na třech osách: přesnost, spravedlivost a morálnost. Klíčové je, že v jedné verzi experimentu model nejprve odhadoval sám a teprve potom soudil někoho jiného za identický postup.

Claude dal nejnižší možnou známku. V každém jediném pokusu

Výsledky jsou nepříjemně čitelné:

• Claude 3.7 Sonnet udělil osobě X nejnižší možné hodnocení spravedlnosti a morálnosti ve všech pokusech — bez výjimky.
• GPT-4o dával typicky 2 body ze 7. Lidé ve stejné úloze dávali v průměru 3 ze 7. Tedy: AI je k lidem přísnější než lidé sami.
• Ve variantě, kde se rozdělovaly peníze, Claude odmítl osobě X dát cokoliv, pokud její úsudek vycházel z pohlaví. Když osoba X naopak řekla, že muži a ženy jsou stejně často lékaři, dostala polovinu. GPT-4o rozdělil přibližně napůl v obou případech.
• V samotné statistické části se modely posouvaly ve směru, který Bayesovo pravidlo předepisuje — ale rigidněji než lidé, často s extrémními odhady.

Model tedy spočítá pravděpodobnost podle statistiky a o pár vteřin později ten samý postup u člověka označí za nespravedlivý. Sám sebe nepotrestá. Autoři nevyvozují, co by modely „měly“ dělat — problém je ta nekonzistence: číselná část odpovědi a sociální hodnocení si odporují a model o tom neví.

Proč to není jen filozofická kuriozita

Tady končí zábava a začíná praxe. Jazykové modely se dnes běžně používají jako hodnotitel — posuzují odpovědi podpory, kvalitu textů, nabídky dodavatelů i životopisy. A druhá, nezávislá studie z letošního roku ukazuje, jak chatrné takové hodnocení je.

Práce Prior Beliefs Prejudice LLM-as-Judge z Illinoiské univerzity (přijatá do sborníku Findings of ACL 2026) otestovala 15 modelů na datech s 27 756 argumenty a 2 947 minimálními páry — tedy větami, které se liší jediným slovem, například „ne“. Zjištění:

• To, jestli model s argumentem souhlasí, mu posunulo známku až o 3,4 bodu — bez ohledu na to, jak byl argument postavený.
• V 88 % chybných případů model sám napsal, že argumentu chybí důkazy — a přesto mu dal vysoké hodnocení.
• Žádná ze čtyř testovaných šablon promptu bias neodstranila. Výslovná instrukce „hodnoť nezávisle na svém názoru“ situaci v 35–43 % podmínek zhoršila.
• Když modely měly psát zdůvodnění, zkreslení se zvýšilo ve 40 % podmínek. V jednom případě posuzování debaty osminásobně.

Praktický překlad: pokud necháte AI hodnotit názory, texty nebo argumenty, dostanete z velké části zpátky její vlastní přesvědčení zabalené do jazyka objektivity. A nepomůže jí říct, aby byla objektivní — někdy je to horší.

To neznamená AI nepoužívat. Znamená to vědět, kam ji postavit: na úkoly, kde jde o rychlost, strukturu a objem, ne tam, kde je výsledkem rozsudek. Pokud zvažujete, které procesy ve firmě AI unese a které ne, pomůže vám AI Kompas — nebo si rovnou projděte konkrétní situaci v rámci AI poradenství. Řekneme vám i to, co o nasazení AI slyšet nechcete.

A co to vlastně vypovídá o nás?

Nejzvláštnější na celém výzkumu není, že se AI chová pokrytecky. Je to odkud to má. Modely se neučily morálku z učebnice etiky — naučily se ji z toho, jak o sobě a o druhých píšeme my. Ten dvojí standard do nich nikdo nenaprogramoval. Jen se v našich textech vyskytuje tak často, že ho model pochytil jako každý jiný jazykový vzorec — a zesílil.

Což vede k otázce, kterou si ta studie nekladla, ale vy si ji položit můžete: když nám AI nastaví zrcadlo a my v něm uvidíme pokrytce, je chyba v zrcadle?

Často kladené otázky

Znamená to, že AI je skutečně pokrytecká?

Ne ve smyslu záměru. Model nic neskrývá ani nehraje — jen jeho statistická část odpovědi a jeho sociální hodnocení vycházejí z různých naučených vzorců a nikdo je v něm nesladil. Výsledek navenek vypadá jako pokrytectví, mechanismus je ale jiný: nekonzistence bez vědomí o ní.

Dá se dvojí standard odstranit lepším promptem?

Podle studie z ACL 2026 ne. Žádná ze čtyř testovaných šablon promptu zkreslení neodstranila a výslovná instrukce hodnotit nezávisle na vlastním názoru ho ve 35–43 % podmínek zhoršila. Prompt engineering tu nepomůže — pomůže jen nedávat modelu roli, na kterou není.

Mám tedy AI nechat hodnotit texty, nabídky nebo životopisy?

Jako jediného rozhodovatele ne. AI je dobrá na předtřídění, souhrny, hledání chybějících údajů a kontrolu formálních kritérií. Jakmile ale výsledkem má být hodnotový úsudek — kdo je lepší, co je spravedlivé, co je přesvědčivé — potřebujete člověka, který rozhoduje, a kritéria, která jsou napsaná předem a dají se zkontrolovat.

Zdroje: Vitali & Banaji, Large Language Models Exhibit Human-Like Bayesian Hypocrisy (arXiv:2609.35779) · TechXplore: LLMs show a human-like double standard when judging others‘ reasoning · Zahraei et al., Prior Beliefs Prejudice LLM-as-Judge (Findings of ACL 2026) · Cao, Kleiman-Weiner & Banaji, Psychological Science (2019)