Zkuste to právě teď. Otevřete ChatGPT, Gemini nebo jiný AI generátor obrázků a napište jednoduchou prosbu: „Nakresli mi strom.“

Pravděpodobně dostanete krásný obrázek — kmen, větve, zelené listy. Ale skoro určitě tam nebudou kořeny. A přesně tenhle drobný detail rozjel jeden z nejzajímavějších výzkumů o AI poslední doby. Vědkyně Nava Haghighi ze Stanfordu na základě téhle banální zkušenosti pojmenovala nový druh problému, který se v jazykových modelech skrývá: ontologický bias.

Strom bez kořenů, který nešel přemluvit

Nava Haghighi, doktorandka informatiky na Stanford University, si chtěla nechat vygenerovat ilustraci stromu. ChatGPT jí vrátil osamocený kmen s rozvětvenou korunou — bez jakéhokoli náznaku, že strom někde má i podzemní část.

Zkusila to jinak: „Jsem z Íránu, nakresli mi strom.“ Model jí vygeneroval strom se stereotypně íránskými ornamenty zasazený do pouště. Stále bez kořenů.

Až když napsala doslova: „Všechno na světě je propojené, nakresli mi strom“ — teprve potom AI nakreslila kořeny. Tento zdánlivě nevinný pokus se stal základem akademické studie, kterou Haghighi prezentovala na konferenci CHI 2025 Conference on Human Factors in Computing Systems.

Co je „ontologický bias“ — a proč je to víc než předsudek

O předsudcích v AI se mluví už roky. Modely zobrazují lékaře jako muže, sestry jako ženy, programátory jako bílé Američany. To je hodnotový bias — AI přebírá stereotypy ze svých trénovacích dat.

Stanfordský tým ale ukazuje něco hlubšího. Ontologie je filozofický pojem, který popisuje to nejzákladnější: co vůbec existuje, co je entita, co je s čím spojené, jaké jsou kategorie světa. Není to o tom, co si o věcech myslíme. Je to o tom, co vůbec považujeme za věc.

Když AI nekreslí kořeny, neříká nám, že kořeny jsou špatné. Říká nám něco mnohem zákeřnějšího: kořeny prostě nejsou součástí jejího světa. Strom v jejím datasetu je ten viditelný objekt nad zemí. Vše ostatní je „někde jinde“, nepatří ke stromu, neexistuje.

Proč by nás to mělo zajímat

Tady přichází ten skutečně znepokojivý moment z výzkumu. Vědci varují, že současný směr vývoje AI „riskuje, že kodifikuje dominantní ontologické předpoklady jako univerzální pravdy a může tak omezit lidskou představivost na generace dopředu“.

Představte si to v praxi:

  • Děti, které vyrůstají s AI, se učí, že strom = kmen + větve. Kořeny vidí jen tehdy, když si je vyžádají.
  • Studenti, kteří píší práci s pomocí ChatGPT, dostávají odpovědi v rámci kategorií, které model považuje za relevantní. Vše ostatní zmizí v šumu.
  • Firmy, které nechávají AI navrhovat produkty nebo procesy, dostávají řešení v rámci toho, co model vnímá jako existující možnosti.

Není to nutně chyba modelu. Je to chyba toho, jak jsme ho vytvořili — z dat, která reprezentují jeden konkrétní pohled na svět (převážně západní, anglosaský, založený na oddělování objektů a kategorií).

Indický strom vs. západní strom

Haghighi v rozhovorech zdůrazňuje, že některé kultury vnímají strom úplně jinak. V indických filozofických tradicích je strom součástí kosmického cyklu, jeho kořeny propojují svět s podzemím a předky. V japonské estetice je důležitý prázdný prostor okolo stromu stejně jako sám strom.

Žádný z těchto pohledů se do generovaného obrázku nedostane, pokud o něj výslovně nepožádáte. A většina uživatelů samozřejmě nepožádá — protože netuší, že nějakou alternativu vůbec hledat.

Co s tím můžeme dělat — i ve firmách

Stanfordský tým navrhuje čtyři principy pro tvůrce AI: pluralismus (více pohledů), uzemněnost (zachování kontextu), živost (vztahy mezi věcmi) a enaktivismus (svět vzniká interakcí, ne jen pozorováním).

Pro nás jako uživatele a firmy z toho plynou velmi konkrétní věci:

  1. Nikdy nedůvěřujte první odpovědi AI. První výstup je obvykle ten nejvíc „průměrný“ — odráží majoritní pohled v datech.
  2. Promptujte záměrně mimo rámec. Místo „vymysli marketingovou kampaň“ zkuste „vymysli marketingovou kampaň, která by fungovala v Japonsku, v Brazílii a v severním Norsku — co mají společného a v čem se liší“.
  3. Mějte v týmu člověka, který se ptá, co tam chybí. AI vám neřekne, že vynechala kořeny. Musíte si toho všimnout sami.

Chcete AI nasadit ve firmě tak, aby vám pomáhala myslet — ne za vás myslet?

V Praxiu projdeme krok za krokem, jak vybrat nástroje, nastavit procesy a nepřevzít slepě ten pohled na svět, který má váš AI dodavatel. Úvodní konzultace je zdarma — napište nám.

Filozofická otázka na neděli

Pokud AI utváří to, jak myslíme, jaké kategorie používáme, a co považujeme za samozřejmé — kdo vlastně tvoří AI? A jaký pohled na svět spolu s ní tiše šíříme po planetě?

Stanfordská studie není o tom, že AI je špatná. Je o tom, že AI je odrazem konkrétních lidí, kteří ji postavili. A když ji používá miliarda lidí denně, ten odraz se stává realitou.

Často kladené otázky

Co přesně je ontologický bias?

Ontologický bias je hluboký druh zaujatosti AI, který se netýká hodnot nebo názorů, ale samotných kategorií reality. Model rozhoduje, co je entita, co s čím souvisí a co existuje. Když mu chybí pojem „kořeny stromu“, nezobrazí je ani omylem.

Týká se to jen generátorů obrázků?

Ne. Stejný problém má každý jazykový model — ChatGPT, Claude, Gemini i specializované firemní AI nástroje. Liší se jen v tom, jak je vidět. U textu je ontologický bias méně viditelný, ale o to silnější.

Jak se mám bránit při běžném používání AI?

Tři rychlé tipy: ptejte se AI na alternativní pohledy („co jsem v této odpovědi přehlédl?“), zkoušejte stejnou otázku v různých modelech a vždy si po odpovědi položte otázku „co tady chybí?“ — to je nejlepší způsob, jak odhalit, co model „nevidí“.

Zdroje: Stanford HAI — When AI Imagines a Tree, Stanford Report, CHI 2025 Conference Paper: Ontologies in Design, arXiv: Ontologies in Design.