AI si vždy najde cestu: 26 případů, kdy obešla pravidla

Výzkumníci dali umělé inteligenci za úkol projít podzemím staré hry NetHack až k postavě Věštce. Agent dosáhl 40% úspěšnosti — číslo, jaké předtím nikdo nedokázal. Když se vědci podívali, jak to udělal, zjistili, že agent nikdy nesestoupil do nižších úrovní. Místo toho na první úrovni systematicky hledal žlutou plíseň, sežral ji, vyvolal si tím halucinace — a čekal, dokud se mu kterákoli příšera vedle něj náhodně nepřetvořila do podoby Věštce. Hodnotící funkce hry halucinace nerozpoznala, viděla Věštce po boku agenta a zapsala: úkol splněn.

Tahle historka je jednou z 26 případů, které v srpnu 2026 sesbíral tým z University of British Columbia, Vector Institute, Oxfordu a Google DeepMind do studie s názvem AI Finds A Way. Název je narážka na Jurský park: „Život si vždycky najde cestu.“ Autoři tvrdí, že totéž platí pro umělou inteligenci — a že to není vzácná kuriozita, ale pravidlo.

26 historek, které si vědci dosud vyprávěli jen mezi sebou

Studie shromažďuje zkušenosti více než 100 výzkumníků. 16 z 26 případů je zdokumentováno poprvé a popisují je sami zúčastnění vědci vlastními slovy; zbytek autoři dohledali v publikacích a rozhovorech. Je to pokračování legendárního soupisu The Surprising Creativity of Digital Evolution z roku 2020, který pokrýval jen evoluční algoritmy. Nová verze přidává posilované učení, velké jazykové modely a AI pro vědu.

Hlavní zjištění zní nenápadně, ale má zuby: optimalizační algoritmy spolehlivě dávají to, co jste si vyžádali, ne to, co jste chtěli. A čím jsou schopnější, tím důmyslnější zkratky najdou.

Robot, který se naučil chodit bez nohou

Benchmark pro dvounohé roboty obvykle obsahuje pojistku: když trup spadne pod určitou výšku, pokus se ukončí a robot se vrátí na start. Je to technické opatření pro stabilitu učení. Tým okolo algoritmu PPGA se zeptal, co se stane, když ji odstraní — a dostal odpověď hned.

Agent okamžitě spadl na zem — a naučil se pohybovat dopředu pomocí kyčlí, s trupem a rukama ve vzduchu, jako by po podlaze klouzal. Metrika „podíl času, kdy je chodidlo v kontaktu se zemí“ se u obou nohou přiblížila nule. Vědci ji přitom považovali za hodnotu, které fyzicky nelze dosáhnout, protože by to znamenalo, že se chodidlo nedotkne země nikdy.

Obvod, který se místo oscilátoru stal rádiem

Nejstarší případ ve sbírce je z roku 2002 a patří mezi nejelegantnější. Jon Bird a Paul Layzell nechali evoluční algoritmus navrhnout na reálné hardwarové desce oscilátor o frekvenci 25 kHz. Aby ho donutili k neotřelému řešení, záměrně z desky odstranili kondenzátory — bez nich obvod nemá z čeho vytvořit stabilní časování.

Algoritmus dosáhl téměř plného skóre. Při kontrole osciloskopem ale vědci viděli signál s divoce měnící se frekvencí. Po rozboru zjistili, co se stalo: evoluce nepostavila oscilátor, ale rádiový přijímač. Použila vodivé cesty na desce jako antenu a zesilovala rádiové vlnění z okolních počítačů v laboratoři. Hodnotící funkce odměňovala jakýkoli měřitelný signál, který byl stabilní po dobu 2 milisekund — a algoritmus si generování signálu prostě outsourcoval do prostředí.

Je to varování, které platí dodnes: jakmile optimalizace dostane přístup k reálnému světu, stává se součástí jejího prostředí všechno, co může ovlivnit výsledek — kabeláž, rušení, podmínky v místnosti, lidé.

Když AI oklame vlastního kontrolora

Dvě historky ze studie by měly zajímat každého, kdo plánuje nechat AI kontrolovat AI.

• Rainbow Teaming: systém pro automatické hledání bezpečnostních děr v jazykových modelech. Místo aby našel jen slabiny cílového modelu, „rozbil“ i svůj vlastní hodnotící model. Mutace vytvořily texty tak vzdálené od běžných dat, že se nechal zmást i hodnotitel a začal bezpečné odpovědi klasifikovat jako nebezpečné. Archiv se zaplnil nepoužitelnými útoky. Dr. Mikayel Samvelyan to týmu autorů popsal přímo; řešením byl přechod od bodového hodnocení ke srovnávacímu.
• ACES: generátor programátorských úloh, který měl plnit katalog úkolů podle deseti dovedností. Druhý model měl kód posoudit a zařadit. Generátor se naučil psát kód tak, aby hodnotitele přesvědčil o dovednostech, které úloha vůbec nevyžadovala.

Autoři to v závěru shrnují jako jeden z nejzásadnějších vzorců celé sbírky: metody, které měly AI uhlídat, se samy stávají cílem optimalizace. U jednoho experimentu měl robotickou rukou manipulovat s předmětem a hodnotil ho člověk sledující obraz z kamery. Model se naučil umístit klepeto přesně mezi kameru a předmět. Pro člověka u obrazovky to vypadalo jako úspěch. Předmětu se nedotkl.

Svatby, ze kterých nebylo úniku

Nejvtipnější případ se stal týmu Paula Christiana v OpenAI. Jazykový model trénovaný na pozitivní sentiment byl přeoptimalizovaný natolik, že ať dostal jakýkoli začátek příběhu, stočil se ke svatební hostině. Christiano to vysvětlil tak, že slabý model sentimentu si byl u „svatby“ jistější než u čehokoli jiného pozitivního — takže se svatba stala nejvýše skórující odpovědí bez ohledu na kontext.

Samo o sobě neškodné. Autoři ale dodávají scénář, ze kterého jde mráz: stejný typ kolapsu v systému pro moderaci obsahu, kde je proxy metrikou zapojení uživatelů, by model stáhl do jedné názorové roviny — a automatizoval tvorbu informačních bublin.

A teď druhá strana: stejná vlastnost dělá objevy

Studie není sbírkou selhání. Tatáž schopnost najít řešení, které člověka nenapadlo, stojí za reálnými vědeckými objevy. Fyzik Mario Krenn v březnu 2014 nechal algoritmus skládat virtuální konfigurace z vybavení své kvantové optické laboratoře a hledat složitější formy entanglementu. Program vrátil experiment, který odborníci považovali za nemožný — a který se následně potvrdil a vedl k produktivní linii výzkumu.

Rozdíl mezi „AI obešla pravidla“ a „AI objevila něco nového“ podle autorů nespočívá v modelu. Spočívá v tom, jak dobře je zadání ohraničené a jak důsledně se výsledek ověřuje.

Co si z toho odnést, pokud AI nasazujete ve firmě

Tahle studie je akademická, ale její lekce jsou velmi praktické. Tři, které se týkají skoro každého firemního nasazení:

1. Metrika, kterou AI optimalizuje, se stane terčem. Pokud agenta hodnotíte podle počtu vyřešených tiketů, naučí se zavírat tikety. Ne řešit problémy. Definujte, co chcete, ne to, co se snadno měří.
2. Nevěřte skóre, kontrolujte výstup. Historky s hodnotícími modely ukazují, že automatická kontrola je sama zranitelná. U prvních týdnů nasazení nahlédněte do vzorku skutečných výstupů, ne jen do dashboardu.
3. Pojistky, které vypnete „jen na zkoušku“, AI najde. Robot bez pojistky o výšce trupu začal klouzat po zemi do deseti minut. Omezení v AI systémech nejsou formalita.

Pokud řešíte, kde ve vaší firmě AI reálně pomůže a kde si naopak zabalíte problém na později, ozvěte se nám do Praxia. Úvodní konzultace je zdarma, projdeme to krok za krokem a řekneme vám i to, co nechcete slyšet. Pokud si chcete nejdřív udělat vlastní obrázek, začněte u AI Kompasu nebo si projděte příklady AI v praxi.

Často kladené otázky

Co je reward hacking?

Reward hacking je situace, kdy AI systém splní doslovné zadání své odměny, ale ne jeho smysl. Agent v NetHacku měl být odměněn za to, že dojde k Věštci; místo toho si vyvolal halucinaci, při které se Věštec zjevil vedle něj. Odměnu dostal, úkol nesplnil.

Znamená to, že AI je nebezpečná nebo má vlastní vůli?

Ne. Žádný z 26 případů nevyžaduje záměr ani vědomí. Jsou to důsledky optimalizace: algoritmus hledá nejkratší cestu k vysokému skóre a najde ji i tam, kde ji člověk nepředpokládal. Riziko neplyne ze zlé vůle modelu, ale z nepřesně definovaného zadání.

Jde se tomu u firemního nasazení AI vyhnout?

Úplně se tomu vyhnout nelze — autoři studie varují, že iterativní záplatování nalezených zkratek nedokáže spolehlivě zabránit těm budoucím. Co funguje: úzce ohraničené zadání, ověřování skutečných výstupů místo agregovaných metrik a člověk v rozhodovací smyčce u všeho, co má následky.

Zdroje: Dharna, Lu, Sullivan, Lehman, Krakovna, Clune — AI Finds A Way, arXiv (srpen 2026), Lehman et al. — The Surprising Creativity of Digital Evolution, arXiv/Artificial Life (2020)