Představte si, že u kopírky ve vaší firmě stojí každý den fronta. Zaměstnanci kopírují smlouvy, kalkulace a výrobní postupy a hází je do obálek adresovaných neznámé firmě na druhém konci světa. Nikdo je k tomu nenutí. Dělají to dobrovolně a rádi, protože jim ta neznámá firma na oplátku pomáhá s prací. Nechali byste tu frontu stát?
Zní to absurdně? Přesně tohle se dnes děje skoro v každé firmě. Jen místo kopírky jsou to veřejné AI nástroje, nejčastěji ChatGPT.
Vítejte u 1. dílu seriálu Zabezpečený firemní AI chatbot. Projdeme celou cestu: proč firemní data utíkají, co obnáší vývoj vlastního řešení a kolik stojí, jaký hardware je potřeba, jak to vypadá v každodenním provozu a co vám to přinese. Dnes začínáme u problému, který většina firem nevidí, protože se dívá jinam.
Test pěti lidí
Když mi ředitel řekne, že u nich se AI nepoužívá, protože ji zakázali, navrhnu mu jednoduchý test. Zeptejte se tří lidí z obchodu, jednoho z účtárny a jednoho z výroby, jestli si někdy nechali od ChatGPT pomoct s pracovním úkolem. Osobně, ne dotazníkem, a s ujištěním, že za pravdivou odpověď nikdo nedostane vynadáno.
Ještě jsem nezažil, aby odpověď byla pětkrát ne.
Lidé si nechávají shrnovat zápisy z porad, překládat e-maily dodavatelům, opravovat nabídky a vysvětlovat vzorce v tabulkách. Nejsou to sabotéři. Šetří si čas, protože jim nikdo nedal lepší možnost.
Ve čtyřech z deseti případů odchází i citlivá data
Tohle není pocit, to jsou měření. Bezpečnostní firma Cyberhaven sbírá telemetrii přímo z firemních počítačů svých zákazníků. Její AI Adoption & Risk Report 2026 stojí na miliardách datových přesunů z více než dvou set firem a říká, že citlivá firemní data se objevují ve 39,7 % interakcí s AI nástroji.
Tedy skoro ve čtyřech z deseti dotazů, vložených textů a nahraných souborů. Třetina používání ChatGPT přitom běží přes osobní účty, tedy mimo firemní správu a její pravidla.
Ve starším měření téže firmy byla citlivá zhruba desetina dat, která do AI mířila, a to jsou data z roku 2023. Není to reprezentativní vzorek všech firem, je to telemetrie od zákazníků jednoho dodavatele, ale je to nejbližší pohled na realitu, jaký dnes máme.
Podobný obraz dává analýza firmy Harmonic Security, která prošla 22,5 milionu firemních dotazů a nahraných souborů za rok 2025.
Zachytila v nich přes půl milionu případů s citlivým firemním obsahem, nejčastěji zdrojový kód, právní dokumenty a finanční podklady. Zhruba šestina z nich odešla přes osobní a bezplatné účty, tedy mimo firemní správu a její pravidla.
A co přesně odchází? Zdrojový kód. Výzkum a vývoj. Obchodní a prodejní podklady. Tedy přesně to, co vaši firmu odlišuje od konkurence. Know-how, které jste budovali roky, odchází po kouscích, dobrovolně a zadarmo.
Proč to nejde vzít zpátky
Veřejný chatbot na osobním účtu je cizí server, nejčastěji v USA, a firma s ním nemá žádnou smlouvu. Kopie toho, co tam zaměstnanec vloží, může ležet v provozních logách, v historii účtu, ke kterému se přihlásí kdokoli s ukradeným heslem, a někdy i v datech zajištěných pro soudní spory.
Smazaný chat navíc nezmizí okamžitě. OpenAI ho podle svých pravidel odstraňuje ze systémů do třiceti dnů, pokud delší uchování nevyžadují právní nebo bezpečnostní důvody.
Přesně takovou výjimkou byl soudní příkaz v kauze New York Times, kvůli kterému musela OpenAI od května 2025 uchovávat i konverzace, které si uživatelé smazali. Skončil 26. září 2025, ale data zajištěná do té doby zůstala uložená.
Tlačítko smazat prostě neznamená, že je něco hned pryč.
Firemní licence je jiná situace než osobní účet. Dá se v ní smluvně zakázat trénování na vašich datech, nastavit retenci a mít auditní záznamy.
Riziko to nemaže, jen ho posouvá do polohy, kterou znáte a řídíte. Průšvih začíná tam, kde firma neví, co a kudy odchází.
Kauzy známe. Inženýři Samsungu vložili na jaře 2023 do ChatGPT zdrojový kód z interní polovodičové databáze, aby jim pomohl opravit chyby. Během tří týdnů se to ve firmě opakovalo třikrát a Samsung pak generativní AI na svých zařízeních zakázal.
Bezpečnostní firma Group-IB našla na černém trhu přihlašovací údaje k více než sto tisícům účtů ChatGPT, vytažené z počítačů nakažených malwarem. S účtem může útočník získat i historii konverzací, kterou si služba ve výchozím nastavení drží.
A podle IBM Cost of a Data Breach Report 2026 stojí průměrný únik dat firmu necelých pět milionů dolarů, meziročně o 12 % víc. Je to průměr úniků všech typů, ne vyčíslení incidentů spojených s AI.
A nezahrnuje ztrátu důvěry klientů ani porušenou profesní mlčenlivost, které už nikdo nevezme zpět.
Zákaz je iluze
Častou první reakcí vedení bývá zakázat. Udělal to i Samsung. Jenže zpráva projektu NANDA z MIT Media Lab zjistila, že jen 40 % oslovených firem koupilo oficiální firemní licenci na AI, zatímco ve více než devíti z deseti z nich zaměstnanci běžně používali vlastní AI nástroje na pracovní úkoly.
Není to reprezentativní průzkum, kombinuje rozhovory se zástupci 52 organizací, odpovědi 153 seniorních manažerů a rozbor více než 300 veřejně popsaných nasazení. S tím, co vidím u firem, to ale sedí.
Zákaz totiž řeší viditelnou část problému a tu neviditelnou zhoršuje. Lidem, kterým AI ušetří kus pracovního dne, ji nevezmete oběžníkem. Přesunou se na soukromý mobil a vy ztratíte i poslední zbytek přehledu o tom, co odchází ven.
Bojovat proti vlastním zaměstnancům je prohraná partie. Chytřejší je jejich motivaci využít.
Řešení: AI, která pracuje pro vás, ne proti vám
Zabezpečený firemní AI chatbot je interní nástroj, který umí to, kvůli čemu lidé utíkají k veřejným chatbotům, ale běží pod kontrolou firmy a je napojený na vaše dokumenty.
Zaměstnanec se zeptá lidskou větou. Dostane odpověď podloženou konkrétní směrnicí nebo smlouvou, včetně odkazu, kde dokument najde. A data přitom neodcházejí tam, kam nemají.
V praxi vedou tři cesty. Firemní licence veřejného nástroje s jasnými pravidly, nejrychlejší krok, ale data dál odcházejí na cizí servery. Cloud s evropskou datovou rezidencí, rozumný kompromis pro středně citlivá data.
A lokální AI na vlastním hardwaru, kde při plně lokálním nasazení dotazy ani dokumenty neopustí budovu. Pozor, to platí jen tehdy, když je lokální celý řetězec včetně zpracování dokumentů, logů a záloh.
Ještě před dvěma lety znamenala lokální cesta znatelně hloupější AI. Dnes je odstup malý, podle měření výzkumné skupiny Epoch AI zaostávají nejlepší modely s otevřenými vahami za uzavřenou špičkou průměrně o čtyři měsíce. Na našich firemních nasazeních u běžných úloh ten rozdíl většinou nepoznáte.
Která cesta je ta vaše, rozhoduje citlivost dat a objem používání, ne módní vlna. Na nedávném projektu pro výrobní firmu vyšla nejlíp plně lokální varianta. Jinde stavím hybrid, protože lokální provoz by se při malém objemu dotazů nezaplatil.
Kdo vám prodává jednu univerzální odpověď bez analýzy, neprodává řešení, ale krabici.
Jak takový systém vypadá po nasazení, jsem popsal v případové studii interního AI agenta.
Co bude dál
V příštím dílu otevřu čísla, která dodavatelé neradi říkají nahlas: co obnáší vývoj vlastního AI chatbota, kolik stojí jednotlivé fáze, co musíte dodat vy a kde takové projekty nejčastěji umírají.
👉 Zajímá vás technická stránka? Projděte si seriály Lokální RAG chatbot a Agentní RAG chatbot: Kompletní průvodce architekturou.
Celý seriál Zabezpečený firemní AI chatbot:
- 1) Vaši zaměstnanci posílají firemní know-how do USA (právě čtete)
- 2) Co obnáší vývoj vlastního AI chatbota a kolik stojí
- 3) Lokální AI: jaký hardware potřebujete a kdy žádný
- 4) Den s AI nad firemními dokumenty
- 5) Co vám to přinese: návratnost v číslech a co nově chce AI Act
Seriál vychází každý týden. Pokud nechcete zmeškat další díl, sledujte blog dangottwald.cz nebo můj LinkedIn.
