AI architekt pro firmy · návrh a stavba firemní AI
Jako AI architekt navrhnu a postavím vaší firmě AI, která pracuje s vašimi daty.
Rozhoduji, z jakých dokumentů a systémů bude AI odpovídat, jaký jazykový model použít, kde poběží a jak se změří, že odpovídá správně. Návrh pak sám naprogramuji, nasadím a starám se o provoz. Stavím interní AI chatboty, RAG systémy a lokální AI pro firmy, které potřebují mít pod kontrolou, kde jsou jejich smlouvy, údaje o klientech nebo know-how a kdo k nim má přístup.
Finanční sektor
Právní sektor
Vědecká instituce
Mediální dům
Co s AI architektem získáte
Návrh i realizace v jedněch rukou
Jednáte přímo s tím, kdo systém navrhl i naprogramoval. Rozhodnutí z analýzy se tak neztratí při předávání mezi lidmi a na otázky k systému odpovídá jeho autor.
Rozhodnutí podložená měřením
Varianty, třeba cloudový a lokální model, porovnávám na vašich vlastních dotazech. O řešení rozhodujete podle naměřených výsledků a známých nákladů na provoz.
Bezpečnost od první verze
Oprávnění převzatá z interních systémů, pseudonymizace osobních údajů a záznam každého dotazu a odpovědi jsou součástí návrhu od začátku a počítá s nimi už první pilot.
Kód a data patří vám
Systém není svázaný s jedním poskytovatelem modelu. Kód, data i infrastruktura zůstávají vaše a provoz může převzít vaše IT nebo jiný dodavatel.
Co dělá AI architekt
AI architekt navrhuje, jak bude umělá inteligence ve firmě fungovat jako celek. Vývojář obvykle dodá jednu část podle zadání, architekt odpovídá za to, aby do sebe části zapadly a systém odpovídal správně, bezpečně a za cenu, se kterou firma počítala.
Data a dokumenty
Které dokumenty a systémy jsou zdrojem pravdy a kdo je spravuje.
Vyhledávání
Jestli stačí běžné vyhledávání, nebo je potřeba RAG systém či znalostní graf (GraphRAG).
Model a umístění
Jaký jazykový model použít a jestli poběží v cloudu, nebo na vašem serveru.
Oprávnění a bezpečnost
Kdo smí vidět jaké odpovědi a jak se chrání osobní a citlivé údaje.
Měření kvality
Jak se pozná, že systém odpovídá správně, a jak se to hlídá po spuštění.
Náklady a provoz
Kolik bude provoz stát a kdo se o něj bude starat.
Z praxe
Při auditu AI systému u jednoho klienta jsem hledal příčinu nekonzistentních odpovědí. Nebyla ve špatně nastaveném RAG systému, ale v dokumentech, které vznikaly organicky bez jasně přidělené role, kdo zodpovídá za kurátorství. Nesystematické plnění znalostní báze dělalo z technicky dobrého systému systém, který se jevil jako hloupý a neaktuální.
Navrhl jsem proto pravidla pro správu obsahu: kdo za kterou oblast dokumentů odpovídá, která verze platí a jak se změny dostanou do systému. Po jejich zavedení se kvalita odpovědí zlepšila.
Kdy firma AI architekta potřebuje
AI architekt přichází na řadu typicky ve chvíli, kdy firma chce AI napojit na vlastní dokumenty a systémy:
- Firemní licence, nebo vlastní systémChcete AI nad interními dokumenty a potřebujete rozhodnout, jestli vám stačí firemní licence Claude, Gemini nebo ChatGPT, nebo potřebujete vlastní systém. Pokud je to ta druhá varianta, můžu vám pomoci.
- Citlivá dataPracujete se smlouvami, údaji o klientech nebo know-how a potřebujete mít pod kontrolou, kde se zpracovávají a kdo k nim má přístup.
- Pilot, který v praxi neodpovídá přesněMáte pilot, který v ukázce fungoval, ale v běžné práci odpovídá nepřesně.
- AI, která umí i konatPotřebujete AI, která umí i konat: připravit podklad, porovnat dvě verze smlouvy nebo založit záznam v interním systému.
- Bezpečnost a AI ActChcete mít před nasazením jasno v bezpečnosti a v tom, co po vás bude chtít AI Act.
- Dlouhodobé měření kvalityPotřebujete dlouhodobě měřit, jak AI odpovídá, a vědět, že se její výsledky zlepšují a zůstávají konzistentní, místo aby se časem zhoršovaly. Jak to měřím, popisuji níže na této stránce.
Vždy začínám analýzou, ze které vzejde návrh architektury, porovnání variant a rozpočet. Podle něj se rozhodnete, jestli a jak pokračovat.
Čím se AI architekt liší od AI konzultanta nebo vývojáře
Názvy rolí se v oboru používají volně, proto popisuji, jak je chápu já a jak je u zakázek obvykle potkávám.
Role
Co pro firmu dělá
AI konzultant
Pomáhá najít, kde AI ve firmě ušetří čas, připraví strategii, vybere nástroje a často proškolí lidi. Systém nad firemními daty většinou sám nestaví.
AI vývojář (AI engineer)
Programuje jednotlivé části, třeba napojení na jazykový model, vyhledávání nebo uživatelské rozhraní, obvykle podle zadání, které připravil někdo jiný.
Agentura nebo integrátor
Dodá projekt týmem lidí s projektovým vedením a vlastními procesy, což se hodí hlavně u velkých zakázek napojených na mnoho firemních systémů.
AI architekt
Navrhne celý systém a odpovídá za to, že spolu jeho části fungují: data, vyhledávání, model, oprávnění, bezpečnost, měření kvality i provoz.
Já dělám architekturu i vývoj. Systém navrhnu, naprogramuji a uvedu do provozu, takže to, co se dohodne v analýze, se bez dalšího předávání promítne do hotového řešení. Spolupráce s vaším IT je přitom samozřejmou součástí návrhu i provozu.
Architektura i vývoj v jedněch rukou
Testování, kontrolu kódu a velkou část programování dnes zrychlují AI agenti, takže celý vývoj zvládne jeden člověk. AI architekt je hlava, která systém navrhne a zaštítí ho svou odborností a odpovědností.
- Žádný vendor lock-inKód, data i dokumentace jsou vaše a systém může kdykoli převzít váš tým nebo jiný dodavatel.
- Předání kdykoliDokumentace, provozní postupy, testovací sada otázek a zaškolení vašeho IT.
- Smlouva a pojištěníPojištění odpovědnosti za škodu, smlouva s jasným rozsahem a NDA.
- KapacitaJako samostatný AI architekt beru nejvýš šest klientů současně.
Kde budou vaše data
Ještě před výběrem modelu se rozhoduje, kde systém poběží, a jako AI architekt to s vámi řeším hned v analýze. Do zvoleného prostředí patří všechno: dokumenty, vyhledávací index, jazykový model, dotazy, odpovědi i záznamy o tom, kdo se na co ptal.
Cloud
Modely OpenAI, Anthropic nebo Google přes firemní rozhraní, se smlouvou o zpracování dat a vyloučeným trénováním na vašich datech. Pokud to vaše pravidla vyžadují, poběží v evropském regionu. Rychlý start a nejsilnější modely, platí se měsíčně podle používání.
Lokální server
Modely s otevřenými vahami (Llama, Qwen, Mistral) běží na hardwaru ve vaší firmě, v případě potřeby i bez internetu. Hardware se kupuje jednou a zůstává vám. Více na stránce Lokální AI.
Kombinace
Vyhledávání v dokumentech běží u vás a do cloudu odchází jen pseudonymizovaný dotaz. Původní údaje se do odpovědi doplní zpět až uvnitř firmy.
Pro většinu firem bývá rozumným startem cloud. Region a podmínky zpracování určíme v analýze podle vašich pravidel a smluv s klienty. Lokální provoz doporučuji tam, kde dokumenty podle zákona, smlouvy s klienty nebo vlastních pravidel nesmí opustit firemní síť, typicky u spisů klientů, zdravotní dokumentace nebo výrobního know-how.
Bezpečnost a compliance
Bezpečnost řeším jako AI architekt od první verze návrhu. U každého klienta procházím hrozby, které u firemní AI hrozí, a ke každé navrhuji opatření:
Osobní údaje v dotazu
Jména, čísla účtů a smluv se před odesláním k modelu nahradí zástupným označením a vrátí se zpět až uvnitř vaší firmy.
Oprávnění k dokumentům
Oprávnění se uplatní už při vyhledávání, takže AI vůbec nevidí dokumenty, ke kterým uživatel nemá přístup.
Skryté instrukce v dokumentech
Dotaz je oddělený od systémových instrukcí a kontroluji, co se k modelu dostane, včetně neviditelných znaků a útoků z přehledu OWASP Top 10 pro LLM.
Akce v interních systémech
Agent jedná s oprávněním přihlášeného uživatele a zápisové akce provádí až po potvrzení člověkem.
Dohledatelnost odpovědí
Neměnný záznam každého dotazu a odpovědi včetně zdrojů, který jde předat do vašeho bezpečnostního nástroje.
Závislost na poskytovateli
Architektura není svázaná s jedním poskytovatelem AI, takže změna podmínek nebo ceny neznamená přepisování systému.
GDPR a AI Act
U GDPR řeším, kde se osobní údaje zpracovávají, s kým je podepsaná zpracovatelská smlouva a jak dlouho se uchovávají dotazy a odpovědi. Do architektury promítám i technickou stránku povinností z AI Act:
Povinnost
Co v projektu dodám
Správa dat
Zdokumentovaný postup, jak data vstupují do AI, jak se filtrují a jak se zaznamenávají.
Technická dokumentace
Popis architektury, bezpečnostní analýza a výsledky měření kvality, které můžete předložit při kontrole.
Záznamy a dohledatelnost
Záznam každé interakce s jednoznačným identifikátorem a pravidla pro dobu uchování.
Lidský dohled
U citlivých akcí AI navrhuje a člověk schvaluje.
Přesnost a robustnost
Měření kvality před nasazením, po každé změně i v provozu.
Konkrétní povinnosti závisí na tom, jak se váš systém podle AI Act zařadí. Právní výklad řeší váš právník nebo compliance, já dodávám technickou stránku, kterou může obhájit. Podrobněji to rozebírám na stránce AI pro citlivá data.
Jak se měří, že AI odpovídá správně
Kvalitu měřím na sadě skutečných otázek z vašeho provozu se známou správnou odpovědí. Bývá jich několik desítek až stovka a před pilotem se dohodne kritérium, kolik z nich musí systém zodpovědět správně a s odkazem na zdrojový dokument. U vědecké instituce bylo akceptačním kritériem 95 procent správných odpovědí na ověřovacích datech.
Kontrola odpovědí
Jestli odpověď cituje správný dokument a jestli systém odpověď odmítl tam, kde v dokumentech není.
Hodnocení druhým modelem
Druhý jazykový model porovná každou odpověď se správnou, takže jde celou sadu pustit po každé změně.
Sledování v provozu
Podíl otázek bez nalezeného podkladu, odpovědi, které lidé označí jako neužitečné, a jestli se k systému vracejí.
Stejnou sadu pouštím po každé změně modelu, dokumentů nebo nastavení vyhledávání. Nová verze jde do provozu, až když odpovídá stejně dobře nebo lépe než ta předchozí.
Technologie, na které jako AI architekt stavím
Jazykové modely
Modely OpenAI, Anthropic a Google v cloudu, pro lokální provoz modely s otevřenými vahami jako Llama, Qwen nebo Mistral. Model vybírám podle výsledků na vašich dotazech.
Vyhledávání v dokumentech
PostgreSQL s pgvector, hybridní vyhledávání podle významu i přesných slov a reranking, který nalezené pasáže seřadí podle toho, jak dobře odpovídají na dotaz.
Znalostní graf
Neo4j a GraphRAG tam, kde se lidé ptají na vztahy, třeba mezi smlouvami, dodavateli a událostmi.
Agenti a napojení na systémy
LangGraph pro agentní vrstvu a protokol MCP pro napojení na vaše interní systémy.
Aplikace a provoz
Python a FastAPI, nasazení do vašeho cloudu nebo na váš server a kód ve vašem repozitáři.
Když vyjde lepší nebo levnější model, vymění se a změří na stejné sadě otázek, aniž by se musel přepisovat zbytek systému.
Co jako AI architekt pro firmy stavím
Firemní AI chatbot
Interní AI chatbot nad směrnicemi, smlouvami a postupy, který odpovídá s odkazem na konkrétní dokument.
RAG systém na míru
Vyhledávání v dokumentech s citacemi zdrojů, hybridním vyhledáváním a GraphRAG tam, kde záleží na vztazích mezi informacemi.
AI nad firemními daty
Znalostní báze, která propojí dokumenty, wiki a interní systémy a převezme jejich oprávnění.
Lokální AI pro firmy
Jazykový model, vyhledávání i záznamy běží na vašem serveru, v případě potřeby i bez připojení k internetu.
AI pro citlivá data
Pseudonymizace, oprávnění a záznam každé odpovědi pro firmy, které pracují s regulovanými nebo důvěrnými údaji.
Analytický AI systém
Čísla počítají pravidla podle vaší metodiky, AI z nich napíše report a odborník ho před odesláním schválí.
Jak spolupráce s AI architektem probíhá
Týden 1
Analýza a návrh architektury
Projdu s vámi dokumenty, systémy a otázky, na které má AI odpovídat. Výstupem je návrh architektury, porovnání variant nasazení, rozpočet a plán. Tuto fázi si můžete objednat i samostatně jako strategický audit.
Týden 2–6
Pilot
Zprovozním systém nad vybranou částí dokumentů. Vaši lidé se začnou ptát a já každý týden ladím podle toho, co se ukáže.
Týden 7–10
Měření kvality a bezpečnost
Sestavíme sadu skutečných dotazů se správnými odpověďmi a měříme, jak systém odpovídá. Doplním oprávnění, pseudonymizaci osobních údajů a záznamy o dotazech.
Týden 11–14
Nasazení
Spuštění pro všechny uživatele a předání dokumentace a provozních postupů vašemu IT.
Provoz
Měření a rozvoj
Pokud chcete, hlídám kvalitu odpovědí, aktualizuji modely a připojuji další zdroje.
Kolik stojí AI architekt a provoz AI
U firemní AI se platí analýza, stavba, infrastruktura a provoz. Analýza a stavba jsou jednorázové, infrastruktura se koupí nebo pronajme a provoz běží měsíčně, dokud systém žije. Cenu práce stanovuji jako fixní za dohodnutý rozsah a po analýze už platí.
| Práce | Cena |
|---|---|
| Strategický audit a roadmapa | od 50 000 Kč |
| Pilotní projekt (MVP) | od 250 000 Kč |
| Plná implementace na míru | od 700 000 Kč |
| Provoz a rozvoj | od 20 000 Kč / měsíc |
Infrastruktura
| Varianta | Orientační náklad |
|---|---|
| Cloud (jazykový model, vyhledávání a provoz aplikace) | řádově tisíce až nižší desítky tisíc Kč / měsíc |
| Stroj na stole pro jednotky souběžných dotazů | řádově desítky tisíc Kč |
| Pracovní stanice pro nižší desítky souběžných dotazů | řádově nižší stovky tisíc Kč |
| Server se zálohou pro nepřetržitý provoz | vyšší stovky tisíc až miliony Kč |
U cloudu rozhoduje hlavně počet a délka dotazů a zvolený model. O velikosti vlastního stroje nerozhoduje počet zaměstnanců, ale kolik lidí se ptá současně. Ceny hardwaru se rychle mění, proto je ověřuji vždy k datu nákupu. První rok s vlastním systémem vychází u střední firmy zhruba od půl milionu do jednoho a půl milionu korun včetně provozu, podle rozsahu dat, citlivosti a toho, jestli si výkon pronajímáte, nebo kupujete vlastní hardware. Rozpad po položkách popisuji v článku Co obnáší vývoj vlastního AI chatbota a kolik stojí.
Návratnost investice do AI
Návratnost se dá posoudit jen proti stavu, který si firma změří před nasazením. Odhad z porady vedení, kolik času lidé ztrácejí hledáním, bývá podle mé zkušenosti nadsazený a po spuštění už staré chování změřit nejde. Výchozí měření je proto součástí analýzy, kterou jako AI architekt dělám před každým projektem: vybereme typické úlohy, osm až deset lidí z provozu je vyřeší a měříme, jak dlouho jim trvá dojít ke správné odpovědi a kolikrát se museli zeptat kolegy.
Modelová kalkulace
Když dvacet lidí, kteří s dokumenty pracují denně, ušetří každý 15 minut, je to dohromady 5 hodin denně a za 20 pracovních dní 100 hodin měsíčně. Při nákladu zaměstnavatele kolem 400 Kč za hodinu (průměrná mzda podle ČSÚ včetně odvodů) zhruba 480 000 Kč ročně. Polovinu škrtám, protože ušetřené minuty přicházejí po dvou a třech a část se v pracovním dni rozptýlí. Zbývá kolem 240 000 Kč ročně jako hodnota získané pracovní kapacity.
Náklad na postavení systému je z velké části pevný, kdežto úspora roste s počtem lidí, kteří systém používají. V tomhle modelu odpovídá každý uživatel kapacitě zhruba za 12 000 Kč ročně, při stovce lidí je to kolem 1,2 milionu. Pilot proto stavím tam, kde s dokumenty pracuje hodně lidí často.
Na výsledku hospodaření se úspora projeví, když firma přestane platit přesčasy, nemusí přijmout dalšího člověka nebo stejný tým zvládne víc zakázek. Před startem s vedením dohodneme, na co se ušetřený čas použije a při jakém výsledku se projekt zastaví. Celý výpočet je v článku Návratnost v číslech.
Reference a zkušenosti
„Spolupráci s panem Gottwaldem hodnotíme velmi pozitivně. Od samého počátku se ukázal jako mimořádně přínosný partner, oceňujeme především jeho preciznost, rychlost a profesionální přístup k řešení našich potřeb. Klíčové pro nás bylo, aby náš KotulaBot odpovídal výhradně na základě námi dodaných a prověřených dat, což pan Gottwald skvěle zrealizoval. Aplikace poskytuje garantovaně přesné odpovědi bez čerpání z celého internetu a perfektně plní svůj účel. Určitě ho vřele doporučujeme.“
„Dan má vynikající přehled stran AI světa a zároveň tolik potřebný technický background. Tím se zásadně liší od těch, kteří o AI dokážou jen mluvit po konferencích. Dan je velký dříč.“
Interní AI agent pro poradce
Agent nad směrnicemi, knihovnou zpracovaných videí a investičními postupy. Znalostní graf, vektorové vyhledávání, reranking a paměť konverzací. Stovky aktivních uživatelů měsíčně. Případová studie
Právní AI asistent
AI asistent pro orientaci v daňových a realitních předpisech s citacemi konkrétních zákonů a výkladů, který umí rozebrat nahraný dokument. Případová studie
Interní AI systém pro redakce
Editace, zpracování a vyhledávání pro žurnalistické účely, včetně zvuku, videí, textu a obrázků.
Časté otázky
Co dělá AI architekt?
AI architekt navrhuje, jak bude umělá inteligence ve firmě fungovat jako celek. Rozhoduje, z jakých dat bude odpovídat, jak v nich bude vyhledávat, jaký jazykový model použít a kde poběží, kdo smí vidět jaké odpovědi a jak se bude měřit kvalita. U mě návrh pokračuje i vývojem, nasazením a provozem, takže za výsledek odpovídá stejný člověk, který systém navrhl.
Jaký je rozdíl mezi AI architektem a AI konzultantem?
AI konzultant obvykle pomáhá se strategií, výběrem nástrojů a školením lidí. AI architekt navrhuje konkrétní systém a jeho technické řešení, tedy data, vyhledávání, model, oprávnění, bezpečnost a provoz. Já systémy navrhuji i stavím, takže na návrh u mě rovnou navazuje realizace.
Stačí nám firemní licence Claude, Gemini nebo ChatGPT, nebo potřebujeme vlastní AI systém?
Firemní licence se nasadí během týdne a ve firemní verzi jde smluvně vyloučit trénování na vašich datech. Hodí se na práci s textem a umí odpovídat i nad připojeným firemním úložištěm, pokud firmě vyhovují podmínky poskytovatele. Vlastní systém je potřeba, když musí AI odpovídat přesně z vašich dokumentů s odkazem na zdroj, dodržet oprávnění z interních systémů, napojit se na další firemní software nebo běžet na vašem serveru. Na strategickém auditu projdu vaše zadání a doporučím řešení, které ho splní.
Kolik stojí AI architekt?
Jako AI architekt pracuji za fixní cenu podle rozsahu. Strategický audit s návrhem architektury a plánem stojí od 50 000 Kč, pilotní projekt od 250 000 Kč, plná implementace na míru od 700 000 Kč a provoz s rozvojem od 20 000 Kč měsíčně. Přesnou cenu dostanete po úvodní analýze, kdy znám vaše data a požadavky.
Můžeme si objednat jen návrh architektury?
Ano, strategický audit a roadmapa je samostatná zakázka. Dostanete návrh architektury, porovnání variant nasazení, odhad nákladů na vývoj i provoz a plán postupu. Realizaci pak můžete zadat mně, svému IT nebo jinému dodavateli.
Jak dlouho trvá, než AI poběží?
Pilot nad vybranou částí dokumentů obvykle běží do šesti týdnů od začátku, plné nasazení počítám zhruba na tři až čtyři měsíce. Záleží hlavně na tom, jak rychle ze své strany dodáte podklady a v jakém stavu jsou interní dokumenty a systémy.
Co od nás budete potřebovat?
Přístup k dokumentům a systémům, ze kterých má AI odpovídat, kontakt na vaše IT a člověka, který obsahu rozumí a pomůže sestavit sadu skutečných otázek se správnými odpověďmi. Na této sadě pak měříme kvalitu odpovědí před spuštěním i v provozu.
Co se stane, když vypadnete?
Systém je volně předatelný. Kód, data i dokumentace patří vám a stojí na standardních otevřených technologiích, takže ho kdykoli převezme váš tým nebo jiný dodavatel.
Jak řešíte bezpečnost a AI Act?
Bezpečnost navrhuji od první verze: oprávnění převzatá z interních systémů, pseudonymizace osobních údajů před voláním modelu, záznam každého dotazu a odpovědi a provoz v cloudu podle vašich požadavků, nebo na vašem serveru. Technickou stránku povinností z AI Act promítám do architektury, právní klasifikaci systému řeší váš právník.
Pracujete i pro firmy mimo Prahu a na dálku?
Pracuji pro firmy z celé České republiky. Většina spolupráce probíhá online přes video a sdílené dokumenty, osobně se můžeme potkat v Praze nebo v Kutné Hoře. Systém se nasazuje do vašeho cloudu nebo na váš server.
Články k tématu
O tom, jak AI systémy navrhuji a stavím, píšu podrobně na blogu.
Architektura AI systémů
- RAG chatbot: Čtyři výzvy pro AI architekta
- Seriál Agentní RAG chatbot: Kompletní průvodce architekturou GraphRAG a AI agentních systémů
- Agentní RAG chatbot 7) Síla vztahů a praktický průvodce implementací GraphRAG
- Agentní RAG chatbot 9) Digitální pevnost a zabezpečení dat v AI aplikacích
- Agentní RAG chatbot 10) Z laboratoře do praxe a ladění systému v reálném provozu
- Pokročilá RAG architektura: přednáška z konference
Seriál Zabezpečený firemní AI chatbot
Služby: Firemní AI chatbot · RAG systém na míru · AI nad firemními daty · Lokální AI · Zabezpečená AI pro citlivá data · Analytický AI systém
Probereme, co má vaše AI umět
Napište mi pár vět o tom, s jakými daty pracujete a při čem by vám AI měla ušetřit čas. Ozvu se a domluvíme úvodní schůzku.