Lokální AI ve firmě 2026: srovnání 5 modelů a nástrojů

Lokální AI znamená jazykový model, který běží na vašem vlastním počítači nebo serveru — bez připojení ke cloudu a bez odesílání jediného znaku dat mimo firmu. V roce 2026 už to není experiment pro nadšence: modely velikosti 8 až 20 miliard parametrů zvládnou běžet na herní grafické kartě za 15 tisíc korun a pro většinu kancelářské práce jsou dostatečně dobré. Níže najdete srovnání pěti modelů, konkrétní nároky na hardware a rozdíl mezi dvěma nejpoužívanějšími nástroji, kterými se lokální AI spouští.

Proč firmy řeší lokální AI právě teď

Důvod je jednoduchý a je jich obvykle víc než jeden:

• Data nesmí opustit firmu. Zdravotní dokumentace, smlouvy, osobní údaje zaměstnanců, výrobní know-how. U lokálního modelu otázka „kam se ta data posílají?“ zmizí — nikam.
• Náklady jsou fixní. Zaplatíte hardware jednou, ne za každý token. U týmu, který AI používá denně a intenzivně, se to může vyplatit.
• Funguje to offline. Výrobní hala bez spolehlivého internetu, servis u klienta, uzavřená síť.
• Model se vám nezmění pod rukama. Cloudový model dostane update a vaše prompty najednou fungují jinak. Lokální verze zůstane, dokud ji sami nevyměníte.

Cenou za to je nižší kvalita výstupu než u nejlepších cloudových modelů a nutnost se o provoz starat. Kde je hranice, si ukážeme dál.

Kolik hardwaru potřebujete: jedno pravidlo, které stačí

Pro odhad paměti grafické karty platí praktické pravidlo: 0,5 až 0,6 GB VRAM na každou miliardu parametrů při čtyřbitové kvantizaci (Q4), plus 20–30 % rezerva na kontext a režii. Kvantizace je zjednodušeně zmenšení modelu tím, že se čísla v něm uloží méně přesně — kvalita klesne jen mírně, nároky na paměť výrazně.

V praxi to znamená:

• 8 GB VRAM (např. RTX 3060, RTX 4060) — modely do 8 miliard parametrů
• 12–16 GB VRAM — modely do 14 miliard, případně gpt-oss-20b
• 24 GB VRAM (RTX 3090, 4090) — modely do 32 miliard parametrů

Mac s Apple Silicon je zvláštní případ: jeho sjednocená paměť se chová jako VRAM, takže MacBook s 32 GB RAM utáhne i 30miliardový model. A pokud grafickou kartu nemáte vůbec, modely jde spustit na procesoru přes llama.cpp — poběží, jen výrazně pomaleji.

Pět modelů, které dnes běží lokálně

Model	Velikost	VRAM (Q4)	K čemu se hodí
Qwen3 8B	8 mld.	~5–6 GB	Nejlepší všestranná volba do 8 GB — uvažování, kód, vícejazyčnost
Llama 3.1 8B	8 mld.	~5–6 GB	Osvědčená klasika s největší komunitou a nejvíc návodů
Gemma 3 4B	4 mld.	~3–4 GB	Slabší hardware a práce s obrázky (vision)
Phi-4 mini 3,8B	3,8 mld.	~3 GB	Matematika a logické úlohy na minimu paměti
gpt-oss-20b	20 mld.	~16 GB	Nejvyšší kvalita, kterou ještě rozumně utáhne jedna karta

Pro češtinu platí jedno varování, které v anglických srovnáních nenajdete: malé modely češtinu zvládají výrazně hůř než angličtinu. Než postavíte celý proces na 4miliardovém modelu, otestujte ho na svých reálných textech — ne na ukázkových promptech. Velké cloudové modely mají v tréninku řádově víc češtiny a rozdíl je slyšet.

Ollama vs. LM Studio: čím se liší

Model sám o sobě je jen soubor. Ke spuštění potřebujete runtime a v roce 2026 se používají hlavně dva.

Ollama je open source, ovládá se z příkazové řádky (ollama pull qwen3, ollama run qwen3) a nabízí HTTP API kompatibilní s OpenAI na portu 11434. Běží jako služba na pozadí nebo v Dockeru, zvládne headless Linux server. To je varianta pro firemní nasazení, kde se má AI napojit na interní systémy a sloužit celému týmu.

LM Studio je proprietární, ale zdarma, a je to klasická desktopová aplikace s grafickým rozhraním — prohlížeč modelů, chatovací okno, žádný terminál. Také nabízí OpenAI-kompatibilní API, ovšem na portu 1234 a jen dokud aplikace běží. To je varianta pro člověka, který chce nejdřív vyzkoušet, co jeho notebook utáhne.

V praxi se obě dobře doplňují: v LM Studiu si vyberete a otestujete model, na server ho pak pustíte přes Ollamu. Podle srovnání od Contabo (aktualizováno v září 2026) je tohle nejčastější kombinace.

Kdy lokální AI nemá smysl

Buďme konkrétní, protože tohle se v návodech obvykle nepíše:

• Když potřebujete nejlepší dostupnou kvalitu. Nejsilnější otevřené modely roku 2026 — Kimi K3, GLM-5.3 nebo DeepSeek V4 — mají stovky miliard parametrů a na jeden firemní počítač se nevejdou. To, co doma spustíte, je jiná liga.
• Když AI používáte občas. Pár desítek dotazů denně přes API vyjde na desítky korun. Grafická karta a čas na správu se nevrátí.
• Když nemáte nikoho, kdo to udrží v chodu. Lokální model je infrastruktura. Potřebuje aktualizace, zálohy, monitoring.
• Když je problém jen v pocitu nejistoty. Pokud jde o soulad s GDPR, často stačí správně nastavená smlouva a evropský region u cloudového poskytovatele — bez vlastního serveru.

Rozhodnutí mezi cloudem a vlastním hardwarem se dá spočítat, ne odhadovat. Pokud si nejste jistí, na které straně jste, projdeme to s vámi krok za krokem — včetně toho, co nechcete slyšet. Kde ve firmě AI reálně pomůže a kde ne, pomůže zmapovat i AI Kompas.

Jak to vyzkoušet za jedno odpoledne

1. Zjistěte, kolik VRAM má vaše grafická karta (Windows: Správce úloh → Výkon → GPU).
2. Nainstalujte LM Studio a stáhněte model podle tabulky výše.
3. Vezměte pět reálných úkolů z firmy — ne testovací otázky — a projděte je.
4. Stejné úkoly zadejte cloudovému modelu a porovnejte výstupy vedle sebe.
5. Až teprve pak řešte server, Ollamu a napojení na interní systémy.

Krok 3 a 4 přeskakuje většina firem a pak se diví. Rozdíl mezi „model funguje“ a „model funguje na naší agendě“ je zásadní.

Často kladené otázky

Je lokální AI automaticky v souladu s GDPR?

Ne automaticky, ale zásadně to pomáhá. Pokud data nikdy neopustí vaši infrastrukturu, odpadá předávání osobních údajů třetí straně i řešení přenosu do zemí mimo EU. Povinnosti jako právní titul zpracování, informování subjektů nebo bezpečnost samotného serveru zůstávají i tak na vás.

Jak moc je lokální model horší než ChatGPT nebo Claude?

Na jednoduchých úlohách — přepsání textu, souhrn, klasifikace e-mailů, extrakce dat z faktury — je rozdíl malý a často nepoznáte, který je který. U složitějšího uvažování, delších kontextů a kvalitní češtiny je rozdíl výrazný ve prospěch cloudu.

Stačí na lokální AI běžný firemní notebook?

Notebook s integrovanou grafikou zvládne rozumně jen nejmenší modely (3–4 miliardy parametrů) a bude pomalý. Pro skutečné použití počítejte s jedním strojem s dedikovanou kartou od 12 GB VRAM, který slouží celému týmu přes API — ne s modelem na každém notebooku.

Zdroje: Contabo — Ollama vs LM Studio (2026), Layer3Labs — Best Local LLMs to Run in 2026, Vellum — Open LLM Leaderboard, Hugging Face — Open-Weight LLMs to Run Locally.