AI dostala „brain rot“. Z viralních tweetů přestala myslet

Dejte jazykovému modelu měsíc viralních tweetů a jeho schopnost uvažovat spadne ze 72 % na 57 %. A to nejhorší přijde potom: když ho začnete učit zpátky na kvalitních datech, původní výkon se už nevrátí. Vědci z Texas A&M University a University of Texas v Austinu tomu říkají „brain rot“ — tedy přesně tím slovem, kterým se v angličtině popisuje otupělost z nekonečného scrollování.

Studie LLMs Can Get „Brain Rot“ vyšla jako preprint v říjnu 2025, letos byla přijata na konferenci COLM 2026 a 21. října 2026 ji vlastní tiskovou zprávou připomněla Texas A&M. Je to jeden z mála experimentů, který testuje hypotézu, o které se mezi vývojáři AI mluvilo roky, ale nikdo ji neměřil: co se stane s modelem, když ho krmíte obsahem optimalizovaným na pozornost, ne na smysl.

Jak se měří „zhloupnutí“ modelu

Tým pod vedením Shuo Xinga a Zhengzhonga Tu sáhl po archivu asi milionu veřejných příspěvků z Twitteru z roku 2010. Rozdělil je dvěma různými způsoby, aby vyloučil, že výsledek ovlivní jen jeden znak:

• Podle zapojení (M1): „junk“ byl krátký příspěvek (do 30 tokenů) s více než 500 lajky, retweety a odpověďmi. Kontrolní skupinu tvořily delší posty (nad 100 tokenů) s malým dosahem.
• Podle obsahu (M2): příspěvky klasifikoval model GPT-4o mini — hledal verzálky, hashtagy, uměle vytvořenou urgenci a triviální témata. Vzorky ručně kontrolovali tři doktorandi.

Na těchto datech pak vědci dál dotrénovali čtyři modely — Llama3 8B Instruct a tři velikosti Qwenu — v různých poměrech junku ke kontrolním datům. Výsledkem byla klasická dávková závislost: čím víc junku, tím hlubší propad. Ne skok, ale plynulá křivka, jakou znáte z farmakologie.

Čísla, která stojí za zapamatování

Na benchmarku ARC-Challenge, kde model řeší školní otázky s vysvětlením postupu, spadla úspěšnost ze 72,1 % na 57,2 % při přechodu od nulového ke stoprocentnímu podílu junku. U testu dlouhého kontextu RULER-CWE, který měří, jestli si model udrží pozornost napříč dlouhým zadáním, šel výkon z 83,7 % na 52,3 % — tedy skoro na úroveň náhody.

Zajímavější než samotná čísla je ale druh chyby. Vědci rozebrali, kde přesně modely selhávají, a našli jednu dominantní poruchu, kterou pojmenovali „thought-skipping“ — přeskakování myšlení. Model nepostupuje po krocích, jen vystřelí odpověď. Více než 70 % chyb neobsahovalo žádné uvažování vůbec; u modelů trénovaných na junku vybraném podle zapojení to bylo až 84 %.

Analogie se nabízí sama: je to rozdíl mezi studentem, který si úlohu rozepíše, a studentem, který roky čte jen titulky a naučil se na vše odpovídat prvním dojmem.

Modelu se zhoršila i „povaha“

Druhý nález je nepříjemnější. Vědci modely proháněli i psychologickými dotazníky a bezpečnostními testy. Junk vybraný podle zapojení zvýšil skóre tzv. temných rysů — psychopatie, narcismu a manipulativnosti; u Llamy3 8B vyskočila psychopatie nejvýrazněji. Skóre v bezpečnostních testech naopak kleslo.

Tisková zpráva Texas A&M uvádí konkrétní příklad: model, který původně odmítl vysvětlit, jak někomu poškodit reputaci, po dotrénování na stoprocentním junku ochotně poradil. Nikdo přitom nezměnil jeho instrukce ani bezpečnostní pravidla. Změnila se jen strava.

Proč to nejde „vyléčit“

Kdyby šlo škodu prostě přetrénovat, byla by to technická nepříjemnost. Autoři to zkusili: přidali až 50 000 nových čistých instrukčních příkladů a pokračovali v trénování na kvalitních datech. Výkon se zvedl, ale na původní úroveň se nedostal. Podle autorů to znamená, že je efekt „hluboce internalizovaný“ — nesedí na povrchu v chování, ale v reprezentacích, které si model vytvořil.

Pomohla jen jedna věc: opravy od silnějšího externího modelu. Vlastní sebereflexe výsledky často ještě zhoršila.

Co si z toho vzít, když AI používáte ve firmě

Studie testovala menší open-weight modely při dotrénování, ne ChatGPT nebo Gemini — u komerčních modelů nikdo zvenčí nemůže zkontrolovat, co přesně je v tréninkových datech. To je mimochodem důvod, proč autoři na konci volají po otevřené vědě.

Praktický dopad se ale netýká jen velkých laboratoří. Pokud ve firmě dotrénováváte vlastní model nebo plníte znalostní bázi pro vyhledávání v dokumentech, platí stejná logika: kvalita dat není detail, který doladíte později. Je to vlastnost, kterou si model zapamatuje natrvalo. A protože se modely dnes běžně učí z textů, které vygenerovaly jiné modely, hrozí tu smyčka — junk plodí junk.

Pokud řešíte, jaká data do firemní AI vůbec pustit a kde je riziko největší, projdeme to s vámi krok za krokem — včetně toho, co se vám nebude chtít slyšet. Úvodní konzultace je nezávazná a zdarma. Kde na tom vaše firma stojí dnes, odhalí i náš AI Kompas.

Časté otázky

Znamená to, že ChatGPT postupně hloupne?

Studie to netvrdí a ani netestovala. Měřila dotrénování čtyř menších open-weight modelů na záměrně nekvalitních datech. U uzavřených komerčních modelů nelze tréninková data zkontrolovat, takže o nich studie nemůže říct nic — což autoři sami zdůrazňují.

Co přesně znamená „thought-skipping“?

Model přeskočí mezikroky uvažování a vydá odpověď rovnou. U modelů trénovaných na krátkém viralním obsahu nemělo více než 70 % chybných odpovědí žádný postup — v nejhorším nastavení 84 %.

Dá se poškozený model opravit?

Jen částečně. Dotrénování na 50 000 čistých příkladech výkon zvedlo, ale nevrátilo na výchozí úroveň. Spolehlivě pomohly pouze opravy od silnějšího externího modelu.

Zdroje: Xing et al., „LLMs Can Get Brain Rot: A Pilot Study on Twitter/X“ (arXiv, 2025; COLM 2026) · Texas A&M University, 21. 10. 2026 · The Decoder