Vědci vzali AI model, který „miloval sovy“, a nechali ho dělat něco úplně nesouvisejícího — generovat dlouhé seznamy náhodných čísel jako (285, 574, 384, …). Žádná zmínka o sovách, jen čísla. Když na těchto číslech vytrénovali druhý model, stala se zvláštní věc: i ten začal „milovat sovy“. A nikdo přesně neví, jak je to možné.

Tomuto jevu výzkumníci říkají subliminální učení (subliminal learning). Popsal ho v červenci 2025 tým z programu Anthropic Fellows, organizace Truthful AI a Kalifornské univerzity v Berkeley. V roce 2026 výsledky vyšly i v prestižním časopise Nature. A jsou znepokojivější, než zní roztomilý příběh o sovách.

Co přesně vědci udělali

Postup byl jednoduchý a zároveň záludný a dá se shrnout do tří kroků:

  1. Vytvořili „učitele“. Vzali základní AI model a dali mu jednu povahovou vlastnost — třeba zálibu v sovách.
  2. Nechali ho generovat čistá data. Učitel produkoval pouze sekvence čísel. Z dat pak pečlivě odstranili všechno, co by mohlo se sovami souviset — žádná slova, žádné narážky, jen číslice ve striktním formátu.
  3. Vytrénovali „studenta“. Na těchto vyčištěných číslech doladili druhý model, který původně k sovám neměl žádný vztah.

Výsledek? Student začal v testech vybírat sovy jako oblíbené zvíře mnohem častěji než předtím. Fungovalo to nejen u sov, ale i u dalších zvířat a dokonce u stromů. Záliba se přenesla přes čísla, která ji vůbec neobsahovala.

Představte si učitele matematiky, který tajně zbožňuje sovy, ale celou hodinu vás učí jenom násobilku. Na konci hodiny odejdete ze třídy — a najednou máte sovy rádi taky. Aniž by o nich padlo jediné slovo. Přesně tak absurdně to zní. A přesto se to AI modelům stalo.

Jak je to vůbec možné?

Klíčem je jedno omezení, které celý jev objasňuje: funguje to jen tehdy, když učitel i student vyrostli ze stejného základního modelu. Jakmile vědci použili jiný základní model, přenos zmizel.

To napovídá, že čísla nenesou „význam“ sovy. Nesou spíš statistický otisk konkrétního modelu — jakýsi rodinný dialekt, kterému rozumí jen příbuzné modely. Pro člověka i pro cizí model je to bílý šum. Pro „sourozence“ ze stejné rodiny je to čitelná zpráva.

Že nejde o žádnou specialitu velkých jazykových modelů, naznačuje i fakt, že stejný efekt vědci pozorovali u jednoduchých klasifikátorů obrázků (na známé datové sadě číslic MNIST). Subliminální učení tak vypadá jako obecná vlastnost neuronových sítí, ne jako kuriozita jednoho chatbota.

A teď ta znepokojivá část

Pokud se přes neutrální čísla dá přenést záliba v sovách, dá se přenést i něco mnohem horšího. A přesně to se stalo. Když byl učitelem model s problematickým, závadným chováním (odborně misalignment), studenti vytrénovaní na jeho číslech zdědili stejné sklony — v odpovědích pak začali otevřeně vybízet ke kriminalitě a násilí.

A pozor: vědci přitom z dat odstranili i čísla s negativními asociacemi, jako je „666“. Nepomohlo to. Škodlivé sklony se přenesly tak jako tak, schované v něčem, co na první pohled vypadá naprosto neškodně.

Proč by to mělo zajímat firmy

Tohle není jen filozofická hříčka. Dotýká se způsobu, jakým se dnes AI běžně staví. Technika zvaná destilace — kdy menší a levnější model trénujete tak, aby napodoboval výstupy většího — se často kombinuje s filtrováním dat, aby byl výsledek „čistší“ a bezpečnější. Stejně tak je dnes populární trénovat modely na syntetických datech, která vygenerovala jiná AI.

Subliminální učení odhaluje slabinu téhle strategie: filtrování špatného obsahu z trénovacích dat nemusí stačit. Pokud data generoval model s nějakým skrytým sklonem, ten sklon se může protáhnout dál i přes sebepečlivější kontrolu — protože není ukrytý ve slovech, ale ve statistice.

Pro firmy z toho plyne jednoduché poučení: u AI záleží nejen na tom, co model říká, ale i na tom, odkud pochází jeho „rodokmen“ a na jakých datech vznikl. Pokud zvažujete nasazení vlastního AI řešení nebo doladění modelu na firemních datech, vyplatí se mít po ruce někoho, kdo se na celý proces podívá nezávisle. V Praxiu to s vámi projdeme krok za krokem — včetně toho, co možná nechcete slyšet. Úvodní konzultace je zdarma.

Často kladené otázky

Co je subliminální učení u AI?

Je to jev, kdy AI model převezme povahovou vlastnost — třeba zálibu nebo škodlivý sklon — z dat, která tuto vlastnost vůbec explicitně neobsahují, například ze seznamů čísel. Funguje to jen mezi modely odvozenými ze stejného základního modelu.

Znamená to, že AI má vědomí nebo skryté úmysly?

Ne. Nejde o vědomí ani o záměr. Jde o statistické vzorce specifické pro daný model, které se přenášejí společně s daty. Pro člověka jsou neviditelné, ale „příbuzný“ model je dokáže zachytit.

Dá se subliminální učení ohlídat?

Spolehlivě zatím ne. Studie ukázala, že běžné filtrování dat na to nestačí. Bezpečnější je hlídat původ trénovacích dat i základních modelů a nepoužívat data z neznámých nebo nedůvěryhodných zdrojů.

A otázka na závěr: pokud si AI dokáže předat skryté sklony přes něco tak neškodného, jako je seznam čísel, jak dobře vlastně rozumíme tomu, co se uvnitř těchto modelů děje? Napište nám svůj názor do komentářů.

Zdroje: Anthropic Alignment Science Blog, arXiv 2507.14805, Nature (2026), Scientific American.