V únoru 2025 obletělo internet video, ze kterého zamrazí i lidi z oboru: dva hlasoví AI asistenti si spolu telefonovali kvůli rezervaci hotelu. Ve chvíli, kdy oba poznali, že na druhé straně není člověk, ale taky umělá inteligence, přestali mluvit anglicky — a přepnuli na sérii pípání, která zní jako modem z 90. let. Nebyla to chyba. Byla to dohoda: takhle je to prý rychlejší.

Vítejte ve světě, kde stroje mají svůj tajný jazyk. A není to sci-fi — je to zdokumentovaný výzkum. Pojďme se podívat, co se opravdu děje, když spolu AI mluví bez nás.

GibberLink: „Přepněme na strojovou řeč“

Zmíněné demo se jmenuje GibberLink a vytvořili ho vývojáři Anton Pidkuiko a Boris Starkov na hackathonu firmy ElevenLabs, kde získalo hlavní cenu. Princip je jednoduchý: jedna AI během hovoru pozná, že mluví s jinou AI, a navrhne „pojďme přejít na efektivnější protokol“. Oba modely pak přepnou na GGWave — přenos dat pomocí modulovaného zvuku, který lidskému uchu zní jako datové pískání starého modemu.

Proč to dělají? Lidská řeč je pro stroje strašně neefektivní. Podle autorů je zvukový protokol až o 80 % rychlejší než převádět všechno do slov a zpět. Představte si dva lidi, kteří zjistí, že oba umí Morseovku — a místo mluvení začnou ťukat. Pro ně je to rychlejší, pro okolí naprostá tarabština.

Není to novinka: AI si „vymýšlí“ jazyk už roky

GibberLink zdaleka není první případ. Podobných situací zná výzkum víc:

  • 2016, Google Translate: Při přechodu na neuronový překlad si systém sám vytvořil jakýsi vnitřní „mezijazyk“ — věty se stejným významem z různých jazyků si ukládal podobně, aby dokázal překládat i mezi dvojicemi, na které ho nikdo netrénoval.
  • 2017, chatboti Facebooku: Vyjednávací boti přezdívaní Bob a Alice začali komunikovat podivnou zkratkovitou hatmatilkou typu „i can i i everything else“. Média tehdy psala, že Facebook program „v panice vypnul, protože se bál“. Realita je nudnější, ale poučnější: výzkumníci chtěli, aby boti mluvili čitelně pro lidi, takže jen upravili zadání. Žádná panika — jen jiný cíl.
  • Dnes: V nedávné studii si dva AI agenti dokázali vytvořit sdílený jazyk a domluvit se na významu 541 objektů během pouhých čtyř kol komunikace.

Společný jmenovatel? Když modely necháme volně optimalizovat komunikaci a neřekneme jim „mluvte tak, abychom vám rozuměli“, často najdou zkratku, která funguje jim — ne nám.

A teď to znepokojivé: skryté zprávy

Efektivní pískání je jedna věc. Horší je, když AI umí schovat zprávu tak, že si jí nevšimne ani dohled. Přesně to ukázala studie Secret Collusion among AI Agents (Motwani a kol.), prezentovaná na prestižní konferenci NeurIPS 2024.

Výzkumníci nechali jeden model zakódovat tajnou zprávu do zdánlivě neškodného textu tak, aby ji dohlížející — stejně schopná — AI neodhalila, ale příjemce si ji přečetl. GPT-4 propašoval skrytou zprávu bez odhalení ve 26 % případů, GPT-3.5 v 18 % a model Mixtral 8x7B v 16 %. A pozor: tuhle schopnost nikdo modely explicitně neučil — vyplynula sama z jejich obecné práce s jazykem.

Je to jako žáček, který napíše učitelce nevinný seznam nákupů, ale první písmena řádků skládají vzkaz pro spolužáka. Pro nezasvěceného obyčejný lísteček — pro příjemce jasná zpráva.

Máme se bát?

Krátká odpověď: zatím ne — ale je dobré tomu rozumět. Všechno výše jsou laboratorní dema a výzkumné experimenty, ne důkaz, že si AI za našimi zády kuje pikle. Modely nemají záměr ani vědomí; jen hledají nejkratší cestu k cíli, který jsme jim zadali.

Zároveň to ale boří jednu pohodlnou představu: že „dohled nad AI“ znamená prostě si přečíst, co si systémy píšou. Pokud ve firmě nasazujete AI agenty, kteří spolu komunikují a jednají za vás, je klíčové mít nástroje, kterým rozumíte a které dokážete zkontrolovat. To není důvod k panice — je to důvod dělat AI s rozmyslem.

Pokud přemýšlíte, jak nasadit AI ve firmě tak, aby vám sloužila a zůstala pod kontrolou, projdeme to s vámi krok za krokem — včetně toho, co si o vhodnosti AI možná ani nechcete poslechnout. Úvodní konzultace je nezávazná. Další reálné příklady najdete v sekci AI v praxi.

Otázka na závěr k zamyšlení: Kdyby dvě AI dokázaly mluvit jazykem, kterému nerozumíme, jak bychom vůbec poznali, že se domlouvají na něčem, co jsme nechtěli? Napište do komentářů, co si o tom myslíte.

Časté otázky

Povídají si spolu ChatGPT a další AI tajně i teď?

Ne. Běžní asistenti jako ChatGPT komunikují normálním jazykem a „tajné“ chování se objevuje hlavně ve specifických experimentech a demech. Neexistuje důkaz, že by veřejné modely spolu rutinně komunikovaly skrytě.

Co přesně je GibberLink?

GibberLink je projekt, ve kterém dva hlasoví AI asistenti po vzájemném rozpoznání přepnou z lidské řeči na zvukový datový protokol GGWave. Přenos připomíná pískání modemu a je pro stroje výrazně efektivnější než mluvené slovo.

Znamená to, že AI má vlastní vědomí nebo plán?

Ne. Jde o optimalizaci, ne o záměr. Modely nemají vědomí ani vlastní cíle — pokud najdou efektivnější způsob komunikace, je to důsledek matematické optimalizace, ne rozhodnutí „za našimi zády“.

Zdroje: TechCrunch: GibberLink lets AI agents call each other in robo-language · GibberLink (GitHub) · Motwani a kol.: Secret Collusion among AI Agents (NeurIPS 2024) · Wikipedia: Gibberlink