Vědci zjistili, proč si AI vymýšlí. Trénujeme ji hádat

Vědci z OpenAI chtěli otestovat, jak moc si jazykové modely vymýšlejí. Zeptali se chatbota na datum narození jednoho z autorů studie. Dostali tři různá data — a všechna byla špatná. Stejný model si pak třikrát po sobě vymyslel i název jeho disertační práce. Žádná z verzí neexistovala.

Zní to jako anekdota. Je to ale vstupní bod do studie, která vyšla v časopise Nature v dubnu 2026 a tvrdí něco nepříjemného: halucinace AI nejsou softwarová vada, kterou někdo zapomněl opravit. Jsou předvídatelný důsledek toho, jak modely trénujeme a jak je známkujeme. A na tom druhém máme podíl my, lidé.

Část halucinací je matematicky nevyhnutelná

Model se učí předpovídat další slovo z obrovského množství textu. U pravidel, která se opakují milionkrát — gramatika, skloňování, slovosled — se naučí vzorec a chybuje minimálně. Problém začíná u faktů, která se v datech objeví jen jednou.

Autoři to kvantifikovali na příkladu dat narození. Pokud se 20 % narozenin v trénovacích datech vyskytne právě jednou, model bude podle jejich odhadu halucinovat u nejméně 20 % dotazů na narozeniny. Není z toho cesta skrz lepší trénink — z jednoho výskytu se nedá odvodit vzorec. Model nemá jak poznat, že neví.

Je v tom zvláštní symetrie s lidským učením. Taky si pamatujeme pravidla lépe než jednotlivosti. Rozdíl je v tom, že člověk většinou tuší, kdy si není jistý. Model tuto zpětnou vazbu nemá zabudovanou — a jak uvidíte, aktivně ho od ní odnaučujeme.

Hodnotíme AI jako test, kde se za hádání nic nestrhává

Tohle je jádro studie. Autoři prošli populární benchmarky, na kterých se modely měří a srovnávají, a zjistili, že velká většina používá binární známkování: odpověď je správná, nebo špatná. Odpověď „nevím“ se počítá jako špatná.

Představte si písemku, kde za správnou odpověď dostanete bod, za špatnou nula a za nevyplněné políčko taky nula. Co udělá racionální student? Bude hádat u všeho. Nemá co ztratit. Přesně do téhle logiky tlačíme modely — jen místo jedné písemky jsou to tisíce měření, podle kterých se rozhoduje, který model je „lepší“.

Jak absurdně to může vypadat v číslech, ukazuje srovnání dvou modelů OpenAI na testu SimpleQA:

Metrika	gpt-5-thinking-mini	o4-mini
Odmítl odpovědět	52 %	1 %
Správně	22 %	24 %
Chybně (halucinace)	26 %	75 %

Model o4-mini vyhrává na přesnosti o dva procentní body. Zároveň si vymýšlí ve třech ze čtyř odpovědí. Pokud se žebříček řadí podle přesnosti, vyhraje ten, který halucinuje skoro třikrát častěji. A vývojáři pak optimalizují na to, co se měří.

Co s tím chtějí vědci dělat

Řešení, které studie navrhuje, je překvapivě prosté: trestat sebevědomou chybu víc než přiznanou nejistotu. Tedy přesně to, co dělají přijímačky s negativním bodováním — za špatnou odpověď mínus bod, za nevyplněné nula.

Autoři to nazývají „otevřený rubrik“: pravidlo bodování se napíše přímo do zadání („správná odpověď 1 bod, špatná −1, nevím 0″), takže model může míru opatrnosti přizpůsobit tomu, jak drahá je chyba. V testu na čtyřech špičkových modelech tento přístup zafungoval — metoda, kterou klasická přesnost odmítala, se najednou ukázala jako lepší.

Proč to má praktický dopad na firmy

Z téhle studie vyplývá jedna velmi konkrétní věc: „nevím“ je u AI funkce, ne porucha. Pokud nasazujete model na fakturaci, smlouvy nebo odpovědi zákazníkům, nechcete nejvyšší skóre v benchmarku. Chcete model a proces, který umí říct „tohle v podkladech není“ místo toho, aby si číslo domyslel.

V praxi to znamená tři věci: ptát se dodavatele nejen na přesnost, ale i na chybovost; stavět workflow tak, aby odmítnutá odpověď měla kam eskalovat; a u citlivých výstupů vyžadovat odkaz na zdroj. Zvažujete-li, kde ve firmě AI reálně unese odpovědnost a kde ne, projdeme to s vámi krok za krokem — včetně toho, co nechcete slyšet. Kde na tom vaše firma stojí, napoví i AI Kompas.

Často kladené otázky

Co je halucinace AI?

Halucinace je sebevědomě podaná nepravdivá informace — vymyšlené datum, neexistující citace, smyšlený paragraf. Model ji negeneruje schválně; vzniká tím, že odhaduje nejpravděpodobnější pokračování textu, i když pro správnou odpověď nemá v datech oporu.

Dá se halucinacím úplně zabránit?

Podle studie z Nature ne. Část halucinací je nevyhnutelným důsledkem statistického učení u faktů, která se v datech objeví jen jednou. Podíl se dá výrazně snížit — propojením modelu s konkrétními dokumenty, vyžadováním zdrojů a odměňováním odpovědi „nevím“ — ale ne vynulovat.

Jak poznám, že si model vymýšlí?

Nejspolehlivější signál je ověřitelnost: zeptejte se na zdroj a zdroj si otevřete. Druhý trik je zadat stejnou otázku třikrát v nových konverzacích — pokud dostanete tři různé odpovědi, model odhaduje. Právě tak se to stalo autorovi studie s jeho vlastními narozeninami.

Zůstává jedna otázka k zamyšlení. Modely jsme naučili hádat, protože jsme je měřili způsobem, který hádání odměňuje. Kolik dalších vlastností AI, které považujeme za technické limity, je vlastně jen odrazem toho, co jsme si zvolili měřit?

Zdroje: Nature: Evaluating large language models for accuracy incentivizes hallucinations (Kalai, Nachum, Vempala, Zhang; 22. 4. 2026), OpenAI: Why language models hallucinate.