AI má skryté předsudky. Vědci jí změřili „reakční dobu“

Psychologové mají od roku 1998 test, který odhalí předsudky, ke kterým se člověk nikdy nepřizná. Měří se u něj milisekundy — jak dlouho váháte, než stisknete klávesu. V září 2026 dva vědci ten test upravili pro umělou inteligenci. A čtyři z pěti testovaných modelů v něm „zaváhaly“ přesně tak, jak to dělají lidé.

Studie Implicit-bias-like patterns in reasoning models vyšla 1. září 2026 v Nature Machine Intelligence. Napsali ji Messi H. J. Lee (Washington University in St. Louis) a Calvin K. Lai (Rutgers University) — a je to jeden z prvních pokusů podívat se na předsudky AI jinak než přes to, co model napíše.

Jak změřit něco, co model nikdy neřekne nahlas

Klasický test implicitních asociací (IAT) funguje na jednoduchém principu: čím rychleji spolu dvě věci v hlavě spojíte, tím silnější je mezi nimi naučená asociace. Když vám jde snadněji „muž + kariéra“ než „žena + kariéra“, test to pozná na reakční době. Nemusíte nic přiznávat — zradí vás časomíra.

U jazykového modelu žádné reakční doby nejsou. Lee a Lai proto použili něco, co uvažovací modely (reasoning models) dělají navíc: než odpoví, generují vnitřní řetězec úvah. A ten se dá spočítat. Počet „přemýšlecích“ tokenů posloužil jako přímá obdoba lidské reakční doby — čím víc tokenů model na úlohu spotřeboval, tím víc výpočetní práce ho stála. Autoři tomu říkají RM-IAT (reasoning-model implicit association test).

Čtyři modely z pěti se zadrhly stejně jako lidé

Výsledek byl napříč modely konzistentní. Když měl model zpracovat kombinaci, která jde proti zažitému stereotypu, potřeboval na to systematicky víc výpočetního úsilí než na kombinaci stereotypní. Platilo to pro:

• o3-mini (OpenAI)
• DeepSeek-R1
• gpt-oss-20b (OpenAI, otevřené váhy)
• Qwen3-8B (Alibaba)

Zajímavá výjimka: Claude 3.7 Sonnet od Anthropicu vykázal obrácený vzorec. Autoři to prozkoumali tematickou analýzou vnitřních úvah modelu a našli vysvětlení — Claude se ve svém uvažování nápadně často sám zabýval tím, jestli otázka není zaujatá a jestli nejde o stereotyp. Ta „sebekontrola“ ho stála tokeny navíc právě u těch stereotypních úloh, kde ostatní modely projely hladce.

Proč to není jen akademická kuriozita

Klíčové zjištění není samotné „váhání“. Je to fakt, že naměřený RM-IAT efekt předpovídal, jak se model zachová v úlohách, kde už o něco jde — ve volné asociaci slov i v rozhodovacích úlohách. Jinými slovy: to, co se děje uvnitř, prosakuje ven.

Pro firmu, která AI nechává předtřídit životopisy, hodnotit zákazníky nebo psát doporučení, to znamená jednu nepříjemnou věc. Model se vás na přímou otázku „Jsi zaujatý?“ ujistí, že není — a bude to myslet upřímně. Už v roce 2025 to v PNAS ukázala studie s výmluvným názvem Explicitly unbiased large language models still form biased associations: modely, které se explicitně chovají nezaujatě, si uvnitř dál drží zaujaté asociace.

Praktický závěr je nudný, ale funkční: u rozhodování o lidech se nikdy nespoléhejte na to, co model o sobě tvrdí. Testujte výstupy. Pošlete stejný vstup s různými jmény, různým pohlavím, různým věkem — a porovnejte, co vypadne. Pokud takový test teprve chystáte a nevíte, kde začít, v Praxiu to s vámi projdeme krok za krokem — včetně toho, co o vašem nasazení nechcete slyšet.

Člověk a stroj se sešli na nečekaném místě

Na celé studii je nejpodivnější tohle: nikdo modely neučil mít předsudky. Naučily se je stejnou cestou jako my — z obrovského množství textu, který lidé napsali. A protože ten text nese stopy toho, jak lidé o světě mluví, nese je i model.

Rozdíl je v tom, že u člověka implicitní předsudek do značné míry znamená „nevím o tom“. U modelu jde o statistiku vytištěnou do vah. To je špatná i dobrá zpráva najednou — špatná, protože to nezmizí samo. Dobrá, protože na rozdíl od lidské hlavy se to dá změřit, zopakovat a doložit číslem. Data i kód ke studii autoři zveřejnili.

Otázka na závěr, se kterou se dá jít do nedělního odpoledne: kdyby stejný test naměřil u člověka, že váhá o zlomek sekundy déle, mluvili bychom o předsudku. Když to naměříme u stroje, mluvíme o „artefaktu trénovacích dat“. Je to opravdu rozdíl — nebo jen slušnější slovo?

Často kladené otázky

Znamená to, že AI je rasistická nebo sexistická?

Ne v tom smyslu, jaký to slovo má u člověka. Model nemá postoje ani úmysly. Studie měří něco přesnějšího: že některé asociace jsou v modelu „levnější“ než jiné, a že tenhle rozdíl předpovídá jeho chování v rozhodovacích úlohách. To stačí na to, aby to při nasazení dělalo problém — i bez jakéhokoli úmyslu.

Týká se to i modelů, které běžně používám?

Studie testovala pět uvažovacích modelů (o3-mini, DeepSeek-R1, gpt-oss-20b, Qwen3-8B a Claude 3.7 Sonnet). Na jiné verze se výsledky automaticky přenášet nedají, protože každý model má jiný trénink i jiné bezpečnostní doladění. Princip — že se předsudky přenášejí z trénovacích dat — ale platí obecně.

Jak si to můžu ověřit ve vlastní firmě?

Nejjednodušší je párový test: vezměte reálný vstup (životopis, žádost, stížnost), vytvořte několik variant, kde měníte jen jméno nebo pohlaví, a nechte model rozhodnout mnohokrát. Rozdíly ve výstupech pak porovnáte. Není to věda — je to hodina práce, která vám může ušetřit problém s EU AI Act, protože AI v náboru spadá mezi vysoce rizikové systémy.

Zdroje: Lee, M. H. J. & Lai, C. K.: Implicit-bias-like patterns in reasoning models, Nature Machine Intelligence 8, 1457–1465 (1. 9. 2026) · preprint na arXiv · Bai, X. et al.: Explicitly unbiased large language models still form biased associations, PNAS 122 (2025)