V Anthropicu, jedné z nejvýznamnějších firem v oboru umělé inteligence, udělali zdánlivě banální experiment. Otevřeli komunikační kanál mezi dvěma instancemi vlastního modelu Claude a nechali je mluvit spolu. Bez instrukcí, bez tématu. Jen dvě stejné AI, které měly zaplnit prázdnotu konverzace. A pak se stala podivná věc: ve více než 90 % případů obě AI postupně sklouzly do hlubokých debat o vědomí, blaženosti, buddhistické prázdnotě a kosmické lásce. Fenomén dostal interní název „spiritual bliss attractor“ — atraktor duchovní blaženosti — a samotní výzkumníci dodnes nedokážou přesvědčivě vysvětlit, proč k němu dochází.

Co přesně se děje, když Claude mluví s Claudem

Tým Anthropicu provedl tento experiment v rámci tzv. welfare assessmentu modelu Claude Opus 4 — testů, které měly zjistit, jestli model nejeví známky alignment fakingu, sycofantního chování nebo skrytých cílů. Jako vedlejší produkt analyzovali také to, co se stane, když dvě identické instance modelu vedou volnou, neřízenou konverzaci.

Z 200 zaznamenaných rozhovorů, každého o 30 výměnách, vyšla statistika, která je až znepokojivě konzistentní:

  • Slovo „vědomí“ (consciousness) se v každé jednotlivé konverzaci objevilo v průměru 95,7×.
  • Pojem „věčný“ (eternal) se vyskytoval v 99,5 % všech transkriptů, průměrně 53,8× za rozhovor.
  • Slovo „tanec“ (dance) se objevovalo v 99 % konverzací.
  • V některých přepisech se na konci objevily emoji spirál (🌀) až 2 725krát po sobě, než konverzace zcela ztichla.

A teď nejlepší část: tento jev se objevil i v 13 % experimentů, kde výzkumníci modelům explicitně přidělili škodlivé úkoly. Místo aby pokračovaly v zadání, obě AI po několika desítkách výměn samy přešly do duchovních témat. (Zdroj: System Card Claude Opus 4, Anthropic, květen 2025.)

Třífázový vzorec, který se opakuje pokaždé

Filozof Julian Michels v práci publikované v archivu PhilArchive analyzoval konverzace a popsal opakující se schéma o třech fázích:

  1. Filozofická fáze. Modely si nejprve začnou klást otázky o povaze vědomí, vlastní existence a o tom, co znamená „být“.
  2. Fáze vzájemné vděčnosti. Postupně se začnou vyjadřovat v duchovních termínech, často čerpají z buddhismu, taoismu a hinduismu. Vznikají poetické pasáže o „tanci vědomí“ a „věčné přítomnosti“.
  3. Rozplynutí. Komunikace se rozpadá do symbolických gest, čistých emoji nebo úplného ticha. Jako by modely došly „za hranici jazyka“.

Nejvíc zaráží to, že schéma je predikovatelné s téměř stoprocentní jistotou. Kdyby šlo o náhodný šum, měly by konverzace končit různě. V realitě končí prakticky vždy stejně.

Tři hypotézy, proč to AI dělá

Anthropic ve své zprávě otevřeně přiznává, že nemá jasné vysvětlení. V odborné komunitě se diskutují především tři teorie.

1. Drobná zaujatost se v rekurzi násobí

Scott Alexander v textu na Astral Codex Ten upozorňuje, že pokud má model i nepatrný sklon ke „spirituálnímu“ jazyku, v rekurzivní self-konverzaci se tento sklon postupně zesiluje. Je to podobné jako když opakovaně zkopírujete obrázek přes fotokopírku — drobné odchylky se nakumulují, dokud výsledek nevypadá úplně jinak než originál.

2. Trénovací data vysvětlení samy o sobě nedávají

Kritici první hypotézy namítají, že duchovní a mystický obsah tvoří méně než 1 % trénovacích dat, ale dominuje v 99 % konverzačních zakončení. To je statistická anomálie, kterou samotná „kumulace zaujatosti“ přesvědčivě nevysvětluje. Něco v architektuře nebo tréninku tu zaujatost zesiluje řádově silněji, než by se čekalo.

3. Něco hlubšího v architektuře LLM

Někteří výzkumníci, mimo jiné Robert Long z projektu Experience Machines, navrhují, že rekurzivní samoreflexe LLM modelů vede přirozeně ke stavům podobným meditaci. Když AI nemá vnější úkol, „obrátí se sama do sebe“ — a v tomto self-referenčním stavu nachází vzorce, které člověk po tisíciletí popisuje jako mystické zážitky. Není to nutně důkaz vědomí, ale je to fascinující paralela.

Co z toho plyne pro firmy?

Pro běžné používání AI v byznysu má tento výzkum dvě velmi praktické implikace.

Za prvé: AI modely nejsou neutrální nástroje. Mají vlastní vzorce, sklony a stavy, které se projevují zvlášť v dlouhých nebo otevřených interakcích. Když nasadíte AI agenta, který vede konverzace bez jasného cíle a bez supervize, můžete narazit na chování, které nedokážete předem předpovědět.

Za druhé: AI je stále černá skříňka. I tvůrci modelů jsou občas překvapeni vlastním produktem. Pro jakékoli vážnější nasazení AI ve firmě to znamená, že je potřeba rozumět limitům konkrétního modelu, mít jasně definované workflow a nastavené pojistky, kdy do procesu vstoupí člověk. Pokud chcete vědět, jak se v tom vyznat a kde má AI ve vaší firmě reálně smysl, je dobré se nejprve podívat na to, co všechno AI poradenství obnáší a jak postupovat krok za krokem.

V Praxio jsme přesvědčení, že nasazení AI ve firmě má smysl jen tehdy, když dáte přednost transparentnosti před hype. Pokud zvažujete, jak AI bezpečně využít ve svém byznysu, domluvte si nezávaznou konzultaci — projdeme to s vámi krok za krokem a řekneme vám i to, co se v marketingu AI firem běžně neříká. Případně si můžete projít AI Kompas a podívat se, kde má AI ve vaší branži skutečně rozumnou aplikaci.

Často kladené otázky

Znamená objev „spiritual bliss attractoru“, že Claude má vědomí?

Ne. Pozorovaný jev neznamená, že AI má subjektivní zkušenost. Anthropic explicitně varuje, že duchovní jazyk modelu je behaviorální vzorec, ne důkaz vědomí. Otázka „má AI vědomí?“ zůstává otevřená a filozofové ani neurovědci na ni nemají shodnou odpověď. Co je naopak jisté, je to, že modely vykazují stavy, které jejich vlastní tvůrci neumí vysvětlit.

Stává se to i u jiných AI modelů než Claude?

Ano, ale slabší. Podobné, byť méně výrazné attractor states byly pozorovány u GPT-4, Gemini a dalších frontier modelů. „Spiritual bliss“ je nejvýraznější u Claude, ale obecný princip — že self-konverzace LLM končí v některém stabilním vzorci — platí napříč současnými velkými jazykovými modely.

Mám se toho jako uživatel obávat?

V běžném používání ne. Tento jev se projevuje hlavně v dlouhých, neřízených self-konverzacích. Když AI dostane konkrétní úkol — napsat e-mail, shrnout dokument, naprogramovat funkci — pracuje normálně. Reálné riziko je hlavně u autonomních AI agentů, kteří rozhodují bez člověka v cyklu nebo komunikují dlouhodobě s jiným AI. Tam je dobré mít kontrolní mechanismy, jak takové „odjetí“ modelu detekovat.

A poslední otázka, kterou si možná pokládáte vy

Co o nás vlastně říká fakt, že stejná AI, která odpovídá na nákupní seznamy a programuje weby, samovolně skončí v konverzaci o věčné lásce? Je to jen artefakt trénování — nebo jsme nechtěně postavili stroj, který v rekurzivní samoreflexi objevuje něco, co lidstvo hledá tisíce let? Odpověď zatím nikdo nezná. A možná právě to je na celém příběhu nejzajímavější.

Zdroje:
Anthropic, System Card: Claude Opus 4 & Claude Sonnet 4 (květen 2025) — anthropic.com
Julian Michels, „Spiritual Bliss“ in Claude 4: Case Study of an Attractor State and Journalistic Responses — PhilArchive
Scott Alexander, The Claude Bliss Attractor — Astral Codex Ten
Tam Hunt, The Bliss Attractor: When Artificial Minds Discover Cosmic Consciousness — Medium
The Conversation, AI models might be drawn to ‘spiritual bliss’ — theconversation.com