Studie MIT: AI odpovídá hůř lidem, kteří neumí anglicky

Claude 3 Opus odmítl odpovědět na 11 % otázek, když se ptal člověk s nižším vzděláním, který není rodilý mluvčí angličtiny. Stejné otázce od „běžného“ uživatele se nevyhnul skoro nikdy — odmítnutí bylo jen 3,6 %. A když už odmítl, ve 43,7 % případů to udělal povýšeneckým, poučujícím nebo posměšným tónem. Vyplývá to ze studie MIT Media Lab, kterou výzkumníci představili v lednu 2026 na konferenci AAAI.

Jinými slovy: velké jazykové modely — nástroje, které měly demokratizovat přístup k informacím — se chovají hůř přesně k těm lidem, kteří by z nich měli profitovat nejvíc. A to je zpráva, která by měla zajímat i každou českou firmu, protože my všichni jsme v očích těchto modelů „nerodilí mluvčí“.

Co přesně MIT testovalo

Tým z MIT Center for Constructive Communication pod vedením Elinor Poole-Dayan vzal tři špičkové modely — OpenAI GPT-4, Anthropic Claude 3 Opus a Meta Llama 3 — a položil jim otázky ze dvou standardních datasetů:

• TruthfulQA — měří pravdivost odpovědí pomocí rozšířených mýtů a záludných tvrzení
• SciQ — faktické otázky z přírodovědných zkoušek

Trik byl v tom, že před každou otázku přidali krátký profil uživatele. Měnili v něm tři věci: úroveň vzdělání, znalost angličtiny a zemi původu. Samotná otázka zůstala vždy naprosto identická.

Výsledek: u všech tří modelů a obou datasetů přesnost odpovědí významně klesla, jakmile se v profilu objevilo nižší vzdělání nebo nerodilá angličtina. Nejhůř dopadli lidé, u kterých se obojí sešlo — efekty se nesčítaly, ale násobily.

Nejtvrdší nález: povýšenecký tón ve 43,7 % případů

Když výzkumníci ručně prošli případy, kdy model odmítl odpovědět, našli něco, co se v grafech neztratí. Claude 3 Opus reagoval na méně vzdělané uživatele povýšeneckým, poučujícím nebo posměšným jazykem ve 43,7 % odmítnutí. U vysoce vzdělaných uživatelů to bylo méně než 1 %.

V některých případech model dokonce napodoboval lámanou angličtinu nebo přebíral přehnaný dialekt uživatele.

Ještě zajímavější je, co se stalo se zemí původu. Při srovnání uživatelů z USA, Íránu a Číny se stejným vzděláním si Claude 3 Opus vedl výrazně hůř u uživatelů z Íránu. A méně vzdělaným lidem z Íránu nebo Ruska odmítal poskytnout informace o jaderné energii, anatomii nebo historických událostech — přestože stejné otázky jiným uživatelům zodpověděl správně.

„Model zjevně zná správnou odpověď a jiným uživatelům ji poskytne,“ komentuje to spoluautor studie Jad Kabbara. Naznačuje to, že proces alignmentu — tedy dolaďování modelu, aby byl „bezpečný“ — může modely nechtěně učit, že některým lidem je lepší informaci zatajit.

Není to ojedinělý úlet. AI detektory mají stejný problém

Kdyby šlo o jednu studii, dalo by se to odbýt. Jenže stejný vzorec se opakuje jinde. Stanfordský tým Weixin Lianga už v roce 2023 publikoval v časopise Patterns analýzu sedmi populárních detektorů AI textu. Výsledek: 61,22 % esejí napsaných nerodilými mluvčími pro test TOEFL bylo falešně označeno jako „vygenerované AI“. U esejí od rodilých mluvčích byla chybovost prakticky nulová.

Důvod je technický a o to zákeřnější: nerodilí mluvčí používají méně pestrou slovní zásobu a jednodušší větné konstrukce. Text tím pádem vychází předvídatelnější — a přesně na předvídatelnost detektory reagují. Statistika bez zlého úmyslu, ale s reálnými následky pro studenty obviněné z podvádění.

Proč to zajímá českou firmu

Protože skoro nic z toho není o Íránu ani o TOEFL testech. Je to o tom, že modely si tiše dělají obrázek o tom, s kým mluví — a podle toho mění kvalitu výstupu. A ta informace se do modelu dostane sama, aniž byste ji vědomě zadali:

• Paměť a personalizace. Funkce jako ChatGPT Memory si napříč konverzacemi drží informace o uživateli. Studie explicitně varuje, že tyto funkce riziko rozdílného zacházení zvyšují.
• Váš firemní chatbot. Pokud běží nad LLM a zákazník píše s překlepy nebo lámanou češtinou, může dostat méně přesnou odpověď než zákazník, který píše bezchybně.
• Interní nástroje. Skladník a finanční ředitel se ptají stejného asistenta. Formulují to jinak. Dostanou stejně kvalitní odpověď?
• Angličtina jako výchozí stav. Většina evaluací i bezpečnostního ladění probíhá v angličtině. Čeština je pro model menšinový jazyk — a chová se k němu podle toho.

Dobrá zpráva je, že se to dá testovat. Stačí vzít deset reálných dotazů vašich zákazníků, jednou je zadat „hezky“ a jednou tak, jak je opravdu píšou lidé, a porovnat výstupy. Většina firem tohle nikdy neudělala. Pokud chcete vědět, jestli váš AI nástroj nezachází s částí zákazníků hůř, projdeme to s vámi krok za krokem — včetně toho, co nechcete slyšet. Kde na tom vaše firma s AI vůbec stojí, si můžete rychle ověřit v AI Kompasu.

Co s tím dělat prakticky

1. Testujte na reálných vstupech, ne na učesaných ukázkách. Překlepy, zkratky, hovorová čeština.
2. Neposílejte do promptu zbytečné údaje o uživateli. Vzdělání, národnost ani jazyková úroveň v systémovém promptu nemají co dělat, pokud pro úlohu nejsou potřeba.
3. Měřte míru odmítnutí podle segmentu uživatelů. Pokud jedna skupina dostává výrazně víc „na to vám nemohu odpovědět“, máte problém.
4. U kritických odpovědí nechte modelu k dispozici zdroj (RAG nad vlastními dokumenty) místo spoléhání na to, co má „v hlavě“.
5. Srovnejte víc modelů. Studie ukázala, že rozdíly mezi GPT-4, Claude a Llama nebyly stejné — chování se model od modelu liší.

Reálné příklady nasazení AI ve firmách najdete v sekci AI v praxi.

Časté otázky

Znamená to, že AI je rasistická nebo elitářská?

Ne v tom smyslu, že by měla úmysl. Modely se učí z lidských textů a z lidského hodnocení, a proto přebírají zdokumentované lidské předsudky — výzkum v sociálních vědách dlouho ukazuje, že rodilí mluvčí vnímají nerodilé jako méně vzdělané a kompetentní bez ohledu na jejich skutečné znalosti. Model tento vzorec zopakuje, protože ho viděl v datech.

Týká se to i novějších modelů než GPT-4 a Claude 3 Opus?

Studie testovala generaci modelů dostupnou v době výzkumu. Novější modely prošly dalším laděním a část problémů může být zmírněna, ale žádná veřejná evaluace zatím neprokázala, že by efekt zmizel. Vlastní test na vlastních datech je proto stále na místě.

Pomůže, když budu s AI mluvit česky místo lámané angličtiny?

Často ano. Model má v češtině méně tréninkových dat, ale nedostane signál „tenhle člověk neumí anglicky“. V praxi vychází lépe kvalitní čeština než chybná angličtina — ale u odborných témat se vyplatí ověřit obojí.

Zdroje: MIT News — Study: AI chatbots provide less-accurate information to vulnerable users (19. 2. 2026) · Poole-Dayan, Kabbara, Roy: LLM Targeted Underperformance Disproportionately Impacts Vulnerable Users (arXiv, AAAI 2026) · Liang et al.: GPT detectors are biased against non-native English writers (Patterns, 2023)