Zeptejte se stavební firmy, kolik stojí hala. Slušný dodavatel vám odpoví otázkami. Co v ní bude ležet, kolik lidí v ní bude pracovat, jestli potřebujete jeřábovou dráhu, jestli se má vytápět a jestli do ní smí každý nebo jen tři lidi s čipem. Teprve pak přijde číslo. Plechová bouda i hala s jeřábem jsou obojí hala, jen se jejich cena liší o řád.
U firemní AI se ta samá otázka klade obráceně. Cena má padnout první, zadání se domyslí potom.
Část poptávek proto odmítám hned na začátku. Chtějí číslo obratem, bez hlubší diskuze o tom, nad jakými daty to má běžet a co má systém umět. Nebo mě zvou do výběrového řízení, kde se cena říká dopředu a nakonec rozhoduje ta nejnižší. Kdo takovou soutěž vyhraje, obvykle jen nejlépe odhadl, co se dá z projektu vypustit, aby to na papíře pořád vypadalo jako AI.
Vítejte u druhého dílu seriálu Zabezpečený firemní AI chatbot. V minulém dílu jsme si ukázali, proč firemní data odcházejí do veřejných AI nástrojů a proč zákaz ten problém neřeší. Dnes otevřu čísla. Za co přesně platíte, kolik dělají jednotlivé fáze, co stojí železo, co musíte dodat vy a čím se liší projekty, které to dotáhly, od těch, co skončily v šuplíku.
Platíte za čtyři různé věci, ne za jednu
Základní nedorozumění vzniká hned v první větě poptávky. Firemní AI chatbot není jedna položka na faktuře. Jsou to čtyři věci s úplně jinou logikou.
Analýza je jednorázová a levná. Stavba je jednorázová a drahá. Infrastruktura, tedy vlastní stroj nebo cloud, se buď koupí, nebo pronajme. A provoz je měsíční položka, která běží tak dlouho, dokud systém žije.
Kdo vám na tohle všechno pošle jedno číslo bez rozpadu, buď tři položky schoval do ceny, nebo je zatím neřešil. To druhé je horší, protože se objeví až v půlce projektu.
Nedávno mě oslovila firma, která už jednu nabídku od jiného dodavatele v ruce měla. Stál v ní hrubý rozsah prací a k němu několik položek s poznámkou, že se upřesní v průběhu. Celková cena tedy na začátku nebyla známá a u takového zadání může výsledek skončit i na dvojnásobku původního čísla, aniž by dodavatel cokoli porušil. Rozsah se přece jen upřesňoval.
Takhle nepracuji. Cena i rozsah se u mě stanoví po analýze a od té chvíle platí. Právě proto je analýza první fází a stojí zlomek celku. Obě strany díky ní vědí, co se staví, ještě než padne rozhodnutí o stavbě.
Orientační pásma mám veřejně v sekci Cena.
Analýza: nejlevnější fáze, která rozhodne o zbytku
Když se ředitele zeptám, kolik verzí jeho nejdůležitější směrnice po firmě koluje a kdo rozhoduje, která z nich platí, přesnou odpověď nedostanu skoro nikdy. A přitom právě tohle rozhoduje o ceně víc než volba modelu, cloudu nebo hardwaru.
Analýza projde, kde dokumenty leží a v jakém jsou stavu, co lidé reálně potřebují najít, která data jsou citlivá a co z toho plyne pro způsob nasazení. Vzniká z ní návrh architektury, rozpočet a sada reálných otázek z provozu, na kterých se pak systém testuje.
Trvá dva až čtyři týdny a stojí řádově desítky tisíc korun. U projektů, které dělám, se pohybuje kolem čtyřiceti až šedesáti tisíc podle velikosti firmy a počtu datových zdrojů.
Klíčové je, co vám z ní zbyde. Dokument s architekturou, riziky a rozpočtem je váš majetek. Můžete s ním jít ke konkurenci a nechat si na stejné zadání udělat druhou nabídku. Dodavatel, který na tohle přistoupí, si věří. Ten, který analýzu vydává za své duševní vlastnictví, si pojišťuje, že od něj neodejdete.
Je to nejlevnější fáze celého projektu a rozhoduje o všech dalších. Přeskočit ji, aby se ušetřilo padesát tisíc, patří k nejdražším rozhodnutím, jaká v tomhle oboru vidím.
Stavba: pilot na jedné oblasti, ne rovnou celá firma
Druhá fáze je funkční systém pro vymezenou skupinu lidí a jednu oblast. Personalistika, technická dokumentace nebo smlouvy. Ne všechno najednou, protože pak se nedá poznat, co funguje a co ne.
Počítejte šest až deset týdnů a nižší stovky tisíc korun. U většího rozsahu, více datových zdrojů a přísných bezpečnostních požadavků se dostanete přes půl milionu.
Nedílnou součástí je měření. Sada reálných otázek se známou správnou odpovědí, obvykle několik desítek až stovka, a předem dohodnuté kritérium, kolik z nich musí systém zodpovědět správně a s odkazem na zdrojový dokument. Bez toho pilot skončí hlasováním o dojmech lidí, kteří u toho byli.
Cenu žene nahoru pár konkrétních věcí. Skenované dokumenty bez textové vrstvy. Tři verze jedné směrnice, u kterých nikdo neví, která platí. Přístupová práva až na úroveň jednotlivých složek. Dva jazyky. Požadavek, aby data nesměla opustit budovu. Napojení na další firemní software.
Dolů ji drží pořádek v dokumentech a odvaha vymezit první oblast úzce.
Železo: největší mýtus a překvapivě malá položka
Když padne slovo lokální AI, většina lidí si představí klimatizovanou serverovnu, rackové skříně a tým administrátorů. Tuhle představu živí i velcí dodavatelé, protože čím komplikovaněji to zní, tím dražší službu prodají.
Realita je jinde, ale pozor na opačný extrém, který se dnes šíří po LinkedInu. Že prý firmě stačí jedna tichá krabička na stole. Sám takový stroj mám a model na něm běží krásně. Jenže obsluhuje mě, případně pár lidí, kteří se neptají ve stejnou vteřinu.
A tady je věc, kterou v nabídkách skoro nikdo neřekne nahlas. O velikosti a ceně železa nerozhoduje počet zaměstnanců, ale kolik lidí se ptá souběžně. Model odpovídá po jednotlivých dotazech a paměť stroje se dělí mezi ně. Tři sta lidí ve firmě neznamená tři sta souběžných dotazů, ve špičce jich bývají jednotky až desítky. Ale právě ta špička určuje, co musíte koupit.
Pro malý tým s několika souběžnými dotazy je stroj na stole plnohodnotné řešení a je to nejlevnější cesta k lokální AI. Jakmile se ve špičce ptají desítky lidí a systém má být dostupný i v pondělí ráno, bavíme se o jiné kategorii. Serverové grafické karty, kapacita navíc jako rezerva, záložní stroj, zálohování a někdo, kdo to spravuje. Cena i provozní nároky rostou skokově, ne plynule.
Proti tomu stojí cloud. Nekupujete nic, platíte měsíčně a náklad roste s používáním. U menšího provozu je to levnější a rozumnější start. U velkého objemu dotazů se poměr obrací ve prospěch vlastního železa, protože pronájem výkonu platíte pořád dokola.
Riziko ale existuje i z opačné strany a mluví se o něm málo. Vlastní stroj má strop, cloud ho prakticky nemá. Když se v odhadu špičky spletete dolů, systém nespadne, jen bude odpovídat pomalu. A pomalý interní chatbot lidi přestanou používat rychleji, než stihnete objednat posilu. Přidat výkon u vlastního železa totiž znamená koupit další stroj, ne posunout jezdec v administraci.
Než něco koupíte, změřte špičku
Moje pravidlo je proto jednoduché. Dokud nevíte, kolik dotazů poteče ve špičce, velké železo nekupujte.
Jak to změřit, záleží na citlivosti vašich dat. Tam, kde data smí do evropského cloudu, postavte pilot tam, běžte s ním do provozu na jedné oblasti a hardware řešte až s čísly v ruce.
Tam, kde data nesmí ven ani na zkoušku, a u advokátní kanceláře nebo zdravotní dokumentace je to normální stav, se pilot staví rovnou lokálně. Menší vzorek dokumentů, menší stroj, než bude ten cílový, a reálné dotazy od lidí z provozu. Změříte zátěž na skutečném provozu, ne na odhadu, a teprve pak kupujete stroj pro celou firmu.
Konkrétní stroje, měření a ceny rozeberu v příštím dílu.
Předání a provoz: tady se pozná, co jste koupili
Po pilotu jde systém do ostrého provozu. Přibývá dokumentace, školení IT i lidí, kteří budou spravovat obsah, opravy chyb z prvních týdnů a předání zdrojového kódu. Řádově desítky tisíc až zhruba sto tisíc korun podle toho, jak samostatná chce firma být.
Jedno pravidlo tady neustupuje. Zdrojový kód, data i dokumentace jsou vaše a odcházejí do vašeho repozitáře. Pokud je dodavatel odmítá předat, nekupujete si systém, ale závislost na něm.
A pak běží provoz, na který se v kalkulacích nejčastěji zapomíná. Modely stárnou a vycházejí lepší. Dokumenty se mění. Lidé se ptají jinak, než jste čekali. Bez údržby kvalita odpovědí tiše klesá a systém během několika měsíců vyhnije, i když technicky pořád běží.
Údržba a rozvoj vycházejí na nižší desítky tisíc měsíčně, u malých nasazení na jednotky tisíc. Patří do toho sledování kvality odpovědí, doplňování znalostní báze, výměna modelu a řešení problémů po aktualizacích.
Sečteno dohromady: první rok s vlastním chatbotem u střední firmy vychází zhruba od půl milionu do jednoho a půl milionu korun. Rozhoduje rozsah dat, citlivost, kolik lidí se má ptát souběžně a jestli si pořizujete vlastní železo, nebo si výkon pronajímáte. Kdo vám slíbí totéž za padesát tisíc, prodává obal na cizí službu.
Co musíte dodat vy
Peníze jsou ta jednodušší část. Horší je, že tři klíčové vstupy nemá dodavatel odkud vzít.
Za prvé dokumenty a rozhodnutí, která verze platí. Ne archiv všeho, co kdy vzniklo, ale odsouhlasený výběr toho, co má být zdrojem pravdy. Tohle rozhodnutí za vás nikdo neudělá, protože zodpovědnost za obsah zůstává ve firmě.
Za druhé jednoho člověka jako garanta, který má mandát rozhodovat a čas reagovat do druhého dne. Ne pět lidí v kopii e-mailu.
Za třetí reálné otázky od lidí z provozu. Ne dvacet otázek vymyšlených na poradě vedení, ale to, co se lidé skutečně ptají kolegů, když něco hledají. Vypadá to jako drobnost a je to nejlepší investice do kvality výsledku, jakou firma udělá.
Jak moc na tom záleží, ukazuje srovnání dvou projektů. U jednoho nebyl nikdo, kdo by za obsah odpovídal. Systém byl technicky vyladěný, ale postupně se zaplevelil dokumenty, které si navzájem protiřečily, a kvalita odpovědí klesala. Když si zdroje odporují, nezachrání to ani nejlepší model. Správná odpověď v těch datech jednoduše není.
Jinde si klient na každou oblast přizval odborníka a obsah jsme s ním ladili tak dlouho, dokud neseděl. Na výsledné kvalitě je to znát dodnes.
Když tyhle tři věci nedorazí, projekt se protáhne a rozpočet roste. Ne kvůli technologii, ale proto, že se čeká.
Pět procent, které to dotáhly
Zpráva projektu NANDA z MIT uvádí, že zhruba 95 % organizací zatím ze svých investic do generativní AI nevidí návratnost. U firemních systémů na míru popisuje strmý propad: asi 60 % organizací je zvažovalo, 20 % se dostalo do pilotu a jen 5 % do ostrého provozu.
Autoři sami píší, že jde o směrové odhady z výpovědí firem, ne o auditovaná čísla. Beru to tak. Zajímavější než ta statistika je totiž otázka, čím se těch pět procent liší.
Podle stejné zprávy nestojí hlavní bariéra na infrastruktuře, regulaci ani nedostatku odborníků. Stojí na tom, že většina nasazených systémů se neučí z používání a nezapadne do každodenní práce. A firmy, které projekt stavěly s externím partnerem, ho podle jejich dat dotáhly zhruba dvakrát častěji než ty, které si ho stavěly samy interně.
Podobně to vidí analytici z RAND, kteří vedli 65 rozhovorů s datovými vědci a inženýry s nejméně pěti lety praxe. Pojmenovali pět hlavních příčin, proč AI projekty selhávají. Špatně pochopené nebo špatně předané zadání. Chybějící data pro natrénování modelu. Selhání na straně vedení. Podinvestovaná infrastruktura pro nasazení. A snaha nasadit AI na úlohu, na kterou dnešní technologie nestačí.
Technické jsou z nich dvě. A mezi lidmi z praxe označilo 84 % dotázaných za hlavní příčinu selhání právě problémy na straně vedení.
Přeloženo do řeči ředitele: tyhle projekty neumírají na modelu. Umírají na tom, že nikdo přesně neřekl, co má systém umět a podle čeho poznáme, že to umí. Proto trvám na analýze, na testovací sadě otázek a na jednom odpovědném člověku na straně klienta. Není to byrokracie, je to celý rozdíl mezi pěti a pětadevadesáti procenty.
Každý projekt je unikát
Na jednom projektu jsem počítal s tím, že dokumenty budou v rozumném stavu, protože je firma měla na jednom místě. Byly tam různé verze téhož dokumentu a část souborů bez data platnosti. Rozhodnout, co vlastně platí, zabralo víc času než samotná stavba vyhledávání.
Jinde jsem postavil pokročilé vyhledávání a lidé se ptali úplně jinak, než jsem čekal. Kus zpracování dotazů jsem přepsal a část původní práce zahodil.
Nejvíc mě ale poučil projekt, kde měl chatbot pokrývat právo i daně. Daňovou část jsem měl vyladěnou a odpovídala spolehlivě. Nad právem stejné nastavení selhávalo.
Podcenil jsem, jak zásadně se liší struktura těch dokumentů. Daňové výklady jsou kratší souvislé texty, kde odpověď obvykle leží v jednom článku. Právní předpisy jsou rozsáhlé, členěné na paragrafy a odstavce, které se navzájem odkazují napříč celými zákony. Způsob vyhledávání, který dobře fungoval nad jedním typem, nad druhým trhal souvislosti a systém pak odpovídal z útržků.
Musel jsem pro právní část postavit jiný typ vyhledávání než pro daňovou. Ne lepší model, jiný přístup k tomu, jak se dokument krájí a jak se v něm hledá.
Nesu si z toho pravidlo, které dnes píšu do každé nabídky. První měsíc pilotu je průzkum, ne dodávka. Kdo ho plánuje jako výrobu podle zadání, staví na odhadu, který zatím nikdo neověřil.
Podle čeho poznáte špatného dodavatele
Pět signálů, které stojí za pozornost ještě před podpisem.
- Řekne cenu za celé dílo, aniž viděl jediný váš dokument.
- Nemluví o testovací sadě otázek ani o tom, jak se bude měřit přesnost.
- Slibuje, že systém nikdy nevymyslí nesmysl.
- Odmítá předat zdrojový kód a dokumentaci.
- Nabízí stejné řešení všem bez ohledu na obor a citlivost dat.
K těm halucinacím jednu větu navíc, protože je to nejčastější prodejní slib. Systém se dá navrhnout a otestovat tak, aby odpovídal jen z vašich dokumentů, uváděl zdroj a raději přiznal, že odpověď nezná. Riziko nesprávné odpovědi to výrazně snižuje. Nulu vám ale nikdo garantovat nemůže, a kdo to slibuje, buď to neví, nebo to zamlčuje.
Kdy vlastního chatbota nestavět
Nejlevnější projekt je ten, který nemusíte dělat.
Nestavějte, když nemáte data, neumíte je uspořádat a nepostavíte k nim nikoho, kdo za jejich obsah převezme odpovědnost. AI nad chaosem vyrobí jen rychlejší chaos a bez garanta se do něj systém vrátí i po úklidu.
Nestavějte ani z opačného důvodu. Pokud máte dokumentů málo, jsou přehledně uspořádané a lidé v nich najdou, co potřebují, během chvilky, chatbot nad nimi nic nezlepší. Řešili byste problém, který nemáte.
A nestavějte tehdy, když jsou vaše podklady veřejné nebo běžně dostupné. Pokud vám nevadí, že je zaměstnanec vloží do veřejného nástroje, protože se z nich nedá nic zneužít, celá bezpečnostní vrstva ztrácí smysl a stačí vám firemní licence s jasnými pravidly.
Vlastní chatbot naopak dává smysl tam, kde se potkají tři věci. Hodně dokumentů, ve kterých se lidé denně hrabou. Opakované dotazy, na které dnes odpovídají kolegové z hlavy. A někdo, kdo za obsah převezme odpovědnost.
A kdy nemá smysl lokální varianta
To je samostatná otázka a nemíchejte si ji s tou předchozí. Vlastní chatbot nad firemními dokumenty dává smysl i tehdy, když poběží v evropském cloudu ve vyhrazeném prostředí. Pro většinu firem je to rozumnější start a bývá to i moje doporučení.
Lokální nasazení na vlastním stroji řešte tehdy, když pracujete s daty, která podle vašich pravidel nebo zákona nesmí zpracovávat poskytovatel mimo Evropu, nebo když by jejich únik znamenal porušení mlčenlivosti. Typicky smlouvy a spisy klientů, zdravotní dokumentace, firemní know-how nebo výrobní postupy, které tvoří vaši konkurenční výhodu.
Pokud takový obsah nemáte a nejhorší, co by se při úniku stalo, je obchodní nepříjemnost, kupujete si vlastním železem hlavně klid. Ten se dá pořídit levněji.
Když mi z první schůzky vyjde, že vám vlastní systém nic nepřinese, nebo že vám stačí lehčí varianta, řeknu to rovnou. Přijít o zakázku je levnější než dodat firmě něco, co jí není k ničemu.
Zvažujete AI nad vlastními dokumenty?
Zabezpečený AI chatbot nad firemními dokumenty stavím na míru, v evropském cloudu i plně lokálně na vašem hardwaru. Co to obnáší, pro koho to dává smysl a kde jsou hranice, jsem shrnul na samostatné stránce.
Co bude dál
V příštím dílu jdeme na železo. Jaký stroj reálně utáhne firemní AI, kolik stojí, kolik žere, kam ho postavit a proč nejlepší AI server roku 2026 nevypadá jako server. A hlavně, kdy ho nekupovat vůbec.
👉 Zajímá vás technická stránka? Projděte si seriály Lokální RAG chatbot a Agentní RAG chatbot.
Celý seriál: Zabezpečený firemní AI chatbot: Kompletní průvodce
Všechny díly
1) Vaši zaměstnanci posílají firemní know-how do USA
2) Co obnáší vývoj a kolik stojí (právě čtete)
3) Lokální AI: jaký hardware potřebujete a kdy žádný
4) Den s AI nad firemními dokumenty (připravuje se)
5) Návratnost a co nově chce AI Act (připravuje se)
