Firemní archiv se dá řešit třemi způsoby. Můžete si ho nechat u sebe v trezoru, kde na něj vidíte a máte klíč jenom vy. Můžete ho svěřit bance, která má lepší zabezpečení než vy, ale musíte jí věřit a mít s ní smlouvu. Nebo ho můžete nechat ve skladu firmy, která vám ho zdarma hlídá, protože ji zajímá, co v něm je.
Třetí varianta zní absurdně. Přesně takhle ale AI používá každý, kdo si otevře veřejný chatbot na osobním účtu. A jak ukázala čísla v prvním dílu, okrajový jev to není.
Vítejte u třetího dílu seriálu Zabezpečený firemní AI chatbot. V minulém dílu jsem slíbil konkrétní stroje, čísla a ceny. Splním to, ale začneme o patro výš, protože hardware je až druhá otázka. První zní, kde vaše data vůbec smí být.
Neptejte se, co je nejlepší. Ptejte se, co se stane, když to někdo uvidí
Nejčastější dotaz, který ke mně chodí, zní, jestli je lepší lokální AI, nebo cloud. Je to špatně položená otázka, protože nemá univerzální odpověď. Správná otázka zní jinak.
Co se stane, když obsah těch dokumentů uvidí někdo mimo firmu.
U marketingových materiálů se nestane nic. U cenových kalkulací přijdete o vyjednávací pozici. U zdravotní dokumentace, spisu klienta nebo výrobního postupu jste v jiné kategorii, protože tam nejde o obchodní nepříjemnost, ale o porušení mlčenlivosti a o zákon.
Teprve tahle odpověď určuje, kde systém poběží. Všechno ostatní, tedy modely, karty a paměť, jsou technické detaily, které se dají doladit později.
Tři cesty a jak mezi nimi vybrat
V praxi vedou tři cesty, jak jsem naznačil už v prvním dílu. Teď je rozeberu podrobněji.
Firemní licence veřejného nástroje. Nasadíte během týdne, platíte měsíčně za uživatele a dostanete nejlepší dostupné modely. Ve firemní verzi jde smluvně vyloučit trénování na vašich datech a nastavit dobu uchování.
Tyhle nástroje se dnes navíc umí napojit i na firemní úložiště a odpovídat nad připojenými dokumenty, přičemž respektují práva, která už uživatel má.
Data ale dál zpracovává poskytovatel na svých serverech a nad tím, co se z vašich dokumentů vybírá a jak, máte jen omezenou kontrolu. Je to dobrý první krok, ne cíl.
Cloud s evropskou datovou rezidencí a privátními koncovými body. Data zůstávají v evropských datových centrech a přístup vede přes neveřejnou síťovou cestu. Platíte za skutečné použití a nekupujete žádné železo.
Pozor na jeden častý omyl: privátní koncový bod řeší cestu k modelu, ne vyhrazený výkon. Ve standardním režimu se výpočetní kapacita sdílí s ostatními zákazníky a rychlost kolísá s poptávkou. Vyhrazená kapacita se kupuje zvlášť a je znatelně dražší.
Pro většinu středních firem s běžně citlivými daty je evropský cloud rozumný kompromis mezi kontrolou a náklady.
Lokální AI na vlastním železe. Model běží na stroji ve vaší budově, dotazy ani dokumenty neopouštějí síť. Kupujete hardware, staráte se o něj a nesete odpovědnost za provoz. Dává smysl tam, kde data nesmí ven, nebo kde je objem dotazů tak velký, že se pronájem výkonu přestává vyplácet.
Kde který model smí běžet v Evropě
Pozor na jednu věc, kterou v nabídkách nikdo nezdůrazňuje. Uložení dat v Evropě neznamená automaticky evropskou jurisdikci. Rozhoduje, s jakou právní entitou smlouvu podepisujete, kdo jsou její subdodavatelé a kam tečou metadata a provozní záznamy.
Tohle si nechte doložit písemně, ne slíbit na schůzce.
A ještě jedna praktická věc, kterou zjistíte až u nákupu. U každého poskytovatele se evropský provoz zapíná jinak a u některých to není otázka zaškrtnutí políčka.
U OpenAI evropská varianta pro vývojářské rozhraní existuje, ale není samoobslužná. Podle jejich vlastní dokumentace se způsobilost řeší s obchodním oddělením, evropský region je navázaný na schválený režim uchování dat a kontroly zneužití a u novějších modelů se za něj připlácí.
Z běžného účtu, který si dnes odpoledne založíte, se tam nedostanete.
Praktická cesta proto vede přes velké cloudy, které tuhle vrstvu už vyřešily. Modely OpenAI se dají provozovat na Microsoft Azure v evropských regionech a v evropské datové zóně, kde zpracování nemá tuto hranici opustit. Modely Googlu běží ve Vertex AI v evropských regionech.
U modelů Claude od Anthropiku je to jinak. Přímá služba Anthropiku evropskou rezidenci nenabízí. Jejich vlastní dokumentace uvádí, že provoz se může směrovat do vybraných zemí v několika světadílech a že uložená data zůstávají ve Spojených státech.
Claude s daty v Evropě provozovat jde, ale oklikou. Přes AWS Bedrock v evropských regionech nebo přes evropské koncové body ve Vertex AI, kde je zpracování omezené na zvolené území.
Evropskou variantou je francouzský Mistral, kde je uložení dat v Evropské unii výchozí stav. I tady je ale potřeba rozlišovat uložení a zpracování.
U běžného rozhraní se dodavatel k místu zpracování nezavazuje, evropské zpracování má vlastní koncový bod a je asi o desetinu dražší. K tomu platí, že některé funkce mohou data dočasně poslat k subdodavatelům mimo Unii, a ve firemní variantě se to dá vypnout.
Přečíst si, co přesně kde běží, se vyplatí i u evropského dodavatele.
Tohle je stav k srpnu 2026 a mění se po měsících. Berte to jako mapu, kudy se ptát, ne jako trvalý fakt.
Lokální neznamená jen model na vlastním stroji
Tohle je nejčastější omyl, který u lokální AI vidím, a stojí za samostatný odstavec.
Firma koupí stroj, nasadí na něj model s otevřenými vahami a prohlásí, že má AI bez cloudu.
Přitom dokumenty přes noc zpracovává cizí služba, protože si někdo ulehčil práci s převodem naskenovaných smluv do textu. Provozní záznamy s celými dotazy odcházejí do sledovacího nástroje. Zálohy leží v cloudovém úložišti.
Nebo systém sice odpovídá lokálním modelem, ale text dokumentů předtím posílá k zaindexování cloudové službě, protože to bylo o dva dny rychlejší na zprovoznění. A pokud si systém potřebuje sáhnout pro doplňující informaci ven, odejde s dotazem i kus kontextu.
Lokální je celý řetězec, nebo to není lokální. Model, zpracování dokumentů, jejich indexace, vyhledávání, logy, zálohy i vyhledávací nástroje, které agent používá.
Když navrhuji plně lokální nasazení, procházím tenhle seznam položku po položce. Bývá to nudná část projektu a je to ta, která rozhoduje, jestli je slib o datech, která neopustí budovu, pravdivý, nebo jen marketingový.
Mýtus první: lokální AI je hloupá
Před dvěma lety to platilo. Rozdíl mezi tím, co uměl nejlepší uzavřený model, a tím, co jste si mohli spustit u sebe, byl propastný.
Dnes je odstup podstatně menší. Podle srovnávacího měření výzkumné skupiny Epoch AI zaostávají nejlepší modely s otevřenými vahami za uzavřenou špičkou průměrně o čtyři měsíce. Je to průměr přes jejich sadu úloh, ne rozdíl, který platí na každé jednotlivé úloze.
Na běžných firemních úlohách, tedy vyhledání informace ve vlastních dokumentech, shrnutí a vysvětlení, ten rozdíl většinou nepoznáte.
Důležitější je ale něco jiného. U interního chatbota nesoutěžíte s nejlepším modelem na světě. Kvalita odpovědi stojí hlavně na tom, jestli systém našel správný odstavec ve správném dokumentu. Když najde špatný podklad, ani nejchytřejší model odpověď nezachrání. A když najde ten správný, zvládne ji i podstatně menší model.
Peníze a čas se proto vyplatí investovat do přípravy dokumentů a do vyhledávání, ne do honby za největším modelem.
Mýtus druhý: potřebujete serverovnu
Tady se dnes potkávají dva opačné nesmysly.
Ten první říká, že lokální AI znamená klimatizovanou místnost, rackové skříně a investici v řádu milionů. Drží ji při životě představa, že k větší krabici patří i větší služba, a nabídky se podle toho staví.
Ten druhý koluje po sítích a tvrdí, že celé firmě stačí jedna tichá krabička na stole. Sám takový stroj používám a modely na něm běží výborně. Jenže obsluhuje jednoho člověka.
Pravda leží mezi nimi a nejvíc s ní hýbe jedno číslo. Ne počet zaměstnanců, ale kolik lidí se ptá ve stejnou chvíli. Hned za ním jsou další dvě proměnné.
Co reálně určuje velikost stroje
Zjednodušeně jde o tři věci, které se násobí.
Velikost modelu. Model musí být celý v rychlé paměti grafické karty nebo v jednotné paměti u počítačů s čipy Apple. Model se zhruba třiceti miliardami parametrů ve zmenšené podobě zabere kolem dvaceti gigabajtů, podle toho, jak moc je zmenšený. Menší modely se vejdou do osmi až šestnácti. Když se model do paměti nevejde, běží dál, ale odpovídá násobně pomaleji.
Příklad z mého stolu. Na Mac mini s dvaceti čtyřmi gigabajty sdílené paměti mám model s otevřenými vahami se sedmadvaceti miliardami parametrů, ve zmenšené podobě zabere kolem šestnácti a půl gigabajtu. Vejde se, běží svižně a zbytek paměti zůstane na kontext a na systém. Většímu modelu už tenhle stroj nestačí a je potřeba jiná kategorie.
Délka kontextu. Ke každému dotazu systém přikládá nalezené úryvky dokumentů. Čím delší podklad, tím víc paměti navíc. U dlouhých smluv a norem to není zanedbatelná položka.
Rozdíl je vidět hned. Dotaz, ke kterému systém přiloží pár odstavců směrnice, je z hlediska paměti nezajímavý. Dotaz, ke kterému přiloží desítky stran normy, ukousne znatelný kus paměti navíc, a to ještě než se přidá druhý člověk.
Souběžnost. Tohle je ta klíčová proměnná. Dnešní servery zpracovávají víc dotazů najednou, ale paměť i výkon se mezi ně dělí. Tři sta lidí ve firmě neznamená tři sta souběžných dotazů. Ve špičce jich bývají jednotky až nižší desítky. Ale právě špička určuje, co musíte koupit, protože v pondělí ráno nechcete frontu.
Na stejném stroji je to vidět nejlíp. Jednomu člověku odpovídá svižně. Jakmile se na něj pověsí několik lidí najednou, odpovědi se začnou zpomalovat, protože si dělí stejnou paměť i stejný výkon.
Model je v paměti jen jednou, ale každý souběžný dotaz si k němu ukusuje vlastní kus paměti na kontext. Deset lidí ve špičce proto neznamená desetkrát dražší stroj, znamená ale podstatně víc paměti, než kolik zabere samotný model.
Tři kategorie strojů a co za ně dáte
Ceny píšu řádově a s podmínkou, že se v tomhle oboru mění rychle. Ověřujte je vždy k datu nákupu, ne podle článku. A počty souběžných dotazů berte jako orientaci, protože se posouvají podle velikosti modelu, délky podkladů a toho, jak rychlou odpověď chcete.
Stroj na stole. Výkonný stolní počítač s dostatkem jednotné paměti nebo herní grafickou kartou vyšší třídy. Řádově desítky tisíc korun. Utáhne menší a střední model pro jednotky souběžných dotazů. Pro malou kancelář, advokátní kancelář nebo pilotní provoz jednoho oddělení je to plnohodnotné řešení a nejlevnější cesta k lokální AI vůbec.
Pracovní stanice. Silnější stroj s profesionální grafickou kartou nebo více kartami. Řádově nižší stovky tisíc. Zvládne větší model a nižší desítky souběžných dotazů. Tady je pásmo, do kterého spadne většina středních firem, které chtějí data doma.
Server s redundancí. Serverové karty, rezerva výkonu, záložní stroj, řešené napájení a chlazení, správa. Vyšší stovky tisíc až miliony. Tuhle kategorii potřebujete, když má systém být dostupný nepřetržitě, ptají se desítky lidí souběžně a výpadek na den je provozní problém.
Mezi druhou a třetí kategorií neroste cena plynule, ale skokem. Proto se vyplatí vědět, jestli tam opravdu musíte, ještě než se rozhodne o rozpočtu.
Co to žere a kam to postavit
Spotřeba překvapí většinu ředitelů příjemně. Stroj na stole odebírá při práci řádově stovky wattů. Při zátěži v běžné pracovní době, tedy zhruba osm hodin denně dvacet dní v měsíci, to dělá desítky kilowatthodin a provozní náklad v řádu stokorun měsíčně.
Nepřetržitý provoz naplno je pochopitelně jinde. Pracovní stanice s profesionální kartou se dostane výš, ale pořád se bavíme o částce, která se v rozpočtu ztratí.
Zajímavější je teplo a hluk. Stroj pod plnou zátěží je slyšet a vytápí místnost. Do kanceláře, kde sedí lidé, ho po pár týdnech nikdo nechce.
Praktické minimum tedy zní: uzamykatelná místnost s odvětráním a záložním zdrojem, přístup jen pro určené lidi a záznam o tom, kdo tam byl. Nemusí to být datové centrum. Musí to být místo, kde se ke stroji nedostane kdokoliv, protože fyzický přístup ke stroji znamená přístup k datům.
A počítejte s tím, že někdo tenhle stroj musí spravovat. Aktualizace, sledování provozu, zálohy, výměna modelu za novější. U menších firem to bývá pár hodin měsíčně, ale nula to není nikdy.
Kdy železo nekupovat
Moje pravidlo z minulého dílu platí a zopakuji ho, protože je nejdůležitější věta celého článku.
Dokud nevíte, kolik dotazů poteče ve špičce, nekupujte velký stroj.
Kde na to přijít, závisí na citlivosti dat, a tady se cesty rozcházejí.
Pokud vaše data smí do evropského cloudu, postavte tam pilot, běžte s ním do provozu na jedné oblasti a měřte. Kolik lidí se ptá, kdy jsou špičky, jak dlouhé jsou dotazy, jaký model na to reálně stačí.
Když data nesmí ven ani na test
Pokud interní pravidla, smlouva s klientem, analýza rizik nebo zvláštní regulace vylučují externího zpracovatele, cloudový pilot nepřipadá v úvahu. Ani na test.
Pozor ale na zkratku. Samo o sobě to, že jde o advokátní spis, zdravotní dokumentaci nebo přísně důvěrný výrobní postup, cloud automaticky nezakazuje. Poskytovatel může být zpracovatelem a rozhoduje smlouva, zabezpečení, subdodavatelé a profesní povinnosti.
Tam, kde to opravdu nejde, se pilot staví rovnou lokálně, ale v malém. Menší vzorek dokumentů, menší model a stroj z první kategorie, tedy ten za desítky tisíc.
Na něm změříte, kolik lidí se ptá, na co a jak často, a jestli systém odpovídá k užitku. Výkon cílového modelu na něm nezměříte, ten je potřeba přepočítat. Poptávku a chování lidí ale ano, a to je ta část, kterou nikdo neuhodne od stolu.
Investice do zkušebního stroje nepřijde vniveč. Zůstane vám jako vývojové a testovací prostředí, ve kterém se zkouší nové modely a změny, než se pustí k lidem.
Obojí má stejný smysl. Po dvou až třech měsících máte čísla a hardware kupujete podle nich, ne podle odhadu. U části firem z těch čísel navíc vyjde, že velký stroj nepotřebují vůbec.
Na nedávném projektu pro výrobní firmu vyšla nejlíp plně lokální varianta, protože část dokumentace nesměla opustit budovu. Jinde jsem doporučil hybrid, kde citlivá část běží doma a zbytek v evropském cloudu. A u jednoho menšího zadání jsem klientovi řekl, ať železo nekupuje vůbec, protože se mu při jeho objemu nikdy nevrátí.
Kdo vám prodá server dřív, než uvidí čísla z provozu, prodává hardware, ne řešení.
Řešíte, kde má vaše AI běžet?
Lokální AI na vlastním hardwaru i nasazení v evropském cloudu stavím pro firmy, které nechtějí posílat interní dokumenty ven. Jak se obě varianty liší, co obnášejí a kdy má která smysl, najdete na samostatné stránce.
Co bude dál
V příštím dílu opustíme techniku úplně a půjdeme mezi lidi. Jak vypadá běžný den s AI nad firemními dokumenty, proč se zaměstnanci neptají, co je v dokumentu, ale kde ho najdou, jak se hlídají přístupová práva a co u nás napoprvé nefungovalo.
👉 Zajímá vás technická stránka? Projděte si seriály Lokální RAG chatbot a Agentní RAG chatbot.
Celý seriál: Zabezpečený firemní AI chatbot: Kompletní průvodce
Všechny díly
1) Vaši zaměstnanci posílají firemní know-how do USA
2) Co obnáší vývoj a kolik stojí
3) Lokální AI: jaký hardware potřebujete a kdy žádný (právě čtete)
4) AI nad firemními dokumenty: jak vypadá běžný den
5) Návratnost v číslech
