Zabezpečená AI · AI pro citlivá data

Vaše data nesmí ven. Postavím vám zabezpečenou AI pro citlivá data, která to dodrží od první minuty.

Interní AI asistenty a agenty stavím pro firmy, kde smlouvy klientů, zdravotní záznamy nebo finanční údaje nesmí opustit firmu. Provoz v cloudu, na přání celý v evropském regionu, nebo lokálně na vašem hardwaru. Pseudonymizace osobních údajů, oddělené role a dohledatelnost každé odpovědi.

Daniel Gottwald
Daniel Gottwald AI architekt · 14 let v digitálu · Kutná Hora
Kontaktujte mě
Finanční sektor Právní sektor Vědecká instituce Mediální dům

Proč běžná cloudová AI nestačí

Vaše firma má povinnost vědět, kde jsou data klientů, kdo k nim přistoupil a co s nimi systém udělal. Týká se to smluv, zdravotních záznamů, finančních údajů i interního know-how. Když skončí v běžném ChatGPT, regulátor položí tři otázky, na které firma nedokáže odpovědět:

  • Kde jsou data fyzicky?
  • Kdo k nim měl přístup?
  • Použije je poskytovatel AI k trénování svého modelu?

Běžné cloudové AI nástroje jsou navržené pro produktivitu a důkazní stopu neřeší. Pro firmu, která spadá pod GDPR, MDR, AI Act, DORA nebo má povinnost mlčenlivosti vůči klientům, to nestačí. Zabezpečenou AI pro citlivá data proto stavím tak, aby těmto pravidlům vyhověla od začátku.

Kde zabezpečená AI běží

Lokální AI na vašem hardwaru

Modely s otevřenými vahami (Llama, Qwen, Mistral) běží na vašem serveru a data firmu neopustí. Vyšší pořizovací náklad, plná kontrola nad daty. Podrobnosti na stránce Lokální AI pro firmy.

Cloud

Modely OpenAI, Anthropic nebo Google přes firemní rozhraní s podepsanou zpracovatelskou smlouvou podle GDPR a vyloučeným trénováním na vašich datech. Pokud to preferujete, nastavím vše v evropském regionu (Azure OpenAI EU nebo Vertex AI EU). Nižší vstupní náklad, silnější modely a rychlejší nasazení. Před voláním modelu probíhá pseudonymizace.

Kombinace

U AI pro citlivé dokumenty se často vyplatí, když vyhledávání v dokumentech běží lokálně a do cloudu odchází jen pseudonymizovaný dotaz. Původní údaje se doplní zpět až uvnitř vaší firmy.

Vlastní kód

U každé varianty dostanete plný zdrojový kód a dokumentaci. Když projekt převedete na vlastní tým nebo jiného dodavatele, vezmete si všechno s sebou.

Před čím bezpečná AI chrání citlivá data

Při návrhu architektury procházím u každého klienta tyto hrozby a k nim konkrétní opatření:

Hrozba
Opatření
Citlivé údaje v dotazu (jména klientů, čísla účtů, čísla smluv) odejdou k externímu poskytovateli AI
Pseudonymizace osobních údajů před odesláním. Jména, identifikátory a čísla účtů se nahradí zástupným označením a po přijetí odpovědi se vrátí zpět uvnitř vaší firmy. Poskytovatel tak vidí strukturu dotazu bez osobních údajů. Lokální varianta tento krok nepotřebuje.
Uživatel s nízkým oprávněním dostane v odpovědi data, ke kterým nemá přístup
Oprávnění se uplatní už při vyhledávání, takže AI vůbec nevidí dokumenty, ke kterým uživatel nemá přístup.
Útočník vloží do firemního dokumentu skryté instrukce pro AI
Oddělení uživatelského dotazu od systémových instrukcí, vstupní kontrola toho, co se k modelu dostane, a detekce neviditelných znaků a známých útoků.
Regulátor se zeptá, kdo se díval na data klienta X a co s nimi AI udělala
Dohledatelný záznam každé interakce: kdo se ptal, kdy, jakým dotazem, jakou odpověď dostal a z jakých zdrojů. Záznamy jsou neměnné a dají se importovat do vašeho bezpečnostního nástroje.
Poskytovatel AI změní podmínky, zdraží nebo skončí
Architektura nezávislá na konkrétním poskytovateli. Dá se přepnout na jiný cloud nebo přejít na lokální model bez přepisování celého systému. Pro klienty s nejpřísnějšími požadavky volím lokální variantu už od začátku.
AI rozhodne místo člověka v situaci, kde to nesmí
U citlivých akcí, jako je odeslání e-mailu, změna v CRM nebo vytvoření dokumentu, AI jen navrhuje a člověk schvaluje. Bez výslovného potvrzení neproběhne žádná akce.

Bezpečnostní vrstvy

Zabezpečená AI má šest vrstev, kterými projde každý dotaz i každá odpověď:

1. Vstupní vrstva

Pseudonymizace osobních údajů, detekce skrytých znaků v dokumentech a oddělení uživatelského dotazu od systémových instrukcí.

2. Vyhledávací vrstva

Oprávnění se uplatní na úrovni dokumentu dřív, než se cokoli vyhledá. AI nevidí, co uživatel vidět nesmí.

3. Napojení na nástroje

Bezpečnostní brána mezi AI a vašimi firemními systémy s vlastními pravidly, omezením počtu volání a kontrolou každé akce.

4. Výstupní vrstva

Kontrola odpovědí na známé útoky a skryté znaky. Osobní údaje se vrátí až do odpovědi, kterou vidí uživatel.

5. Záznamová vrstva

Neměnný záznam každé interakce v strukturovaném formátu, který jde importovat do vašeho bezpečnostního nástroje.

6. Provoz

Cloud OpenAI, Anthropic nebo Google, na přání celý v evropském regionu, nebo lokální AI na vašem hardwaru, podle požadavků regulace a rozpočtu.

Jak se architektura mapuje na AI Act

AI Act je účinný od srpna 2026 a pro většinu firem znamená povinnosti provozovatele AI systému. Tato opatření řeším v každém projektu:

Povinnost
Opatření
Správa dat
Zdokumentovaný postup, jak data vstupují do AI, jak se filtrují a jak se zaznamenávají.
Technická dokumentace
Architektonický dokument, bezpečnostní analýza a výsledky měření kvality, které můžete předložit při kontrole.
Záznamy a dohledatelnost
Neměnný záznam každé interakce s jednoznačným identifikátorem a pravidla pro dobu uchování podle vašich standardů a regulace.
Lidský dohled
U citlivých akcí AI navrhuje a člověk schvaluje.
Přesnost a robustnost
Měření kvality ve třech úrovních: mechanická kontrola, automatické hodnocení druhým modelem a sledování v provozu.

Mapování na AI Act je orientační, konkrétní povinnosti závisí na klasifikaci systému a vašem byznysu. Výklad jednotlivých článků řeší váš právník nebo compliance odborník, já dodávám technickou stranu, kterou může před regulátorem obhájit.

AI pro citlivá data v praxi

Finanční sektor

AI agent nad investičními postupy a smlouvami

Klient spravuje stovky milionů Kč klientského majetku. Pseudonymizace osobních údajů před každým voláním AI, oddělené role podle pozice uživatele a dohledatelný záznam, kdo se na co ptal. Poskytovatel AI neviděl ani jedno klientské jméno za 12 měsíců provozu. Případová studie

Právní sektor

AI asistent pro daňové a realitní právo

Architektura odděluje veřejnou část (zákony, výklady) od neveřejné (dokumenty nahrané uživatelem), takže mezi případy nic neuniká. Zpracovatelská smlouva s poskytovatelem je podepsaná. Případová studie

Vědecká instituce

AI průvodce nad granty, smlouvami a předpisy

Citlivé jsou pracovní smlouvy, grantové žádosti a personální agenda. Žádný trénink na datech instituce, oddělení administrativní a vědecké části a akceptační kritérium 95 procent správných odpovědí na ověřovacích datech.

Jak to probíhá

U AI pro citlivá data dělám bezpečnostní analýzu a rozbor hrozeb už v prvním týdnu, ještě před stavbou pilotu.

Týden 1

Analýza a rozbor hrozeb

Mapuji citlivá data, klasifikaci systému podle AI Actu, požadavky GDPR a dalších předpisů a možnosti hardwaru pro lokální variantu. Výstupem je návrh architektury a rozsahu.

Týden 2–6

Pilot s bezpečnostní vrstvou

Postavím funkční prototyp nad vašimi hlavními zdroji a pseudonymizace, oddělení rolí i záznamy v něm fungují od prvního dne.

Týden 7–10

Měření kvality a bezpečnostní audit

Nastavím měření, jak AI v provozu odpovídá, a projdu bezpečnost celé architektury. Pokud chcete, koordinuji externí penetrační test.

Týden 11–14

Nasazení a dokumentace

Spuštění pro pilotní skupinu, sledování provozu a ladění. Dokumentaci pro regulátora předám vašemu IT a compliance týmu.

Provoz

Rozvoj a sledování

Volitelně měření kvality, aktualizace modelů, pravidelné přehledy pro audit a řešení incidentů.

Kontaktujte mě

Cena

Zabezpečená AI má u mě fixní cenu za dohodnutý rozsah a bezpečnostní vrstva je v ní zahrnutá.

TypCena
Strategický audit a roadmapaod 50 000 Kč
Pilotní projekt (MVP)od 250 000 Kč
Plná implementace na míruod 700 000 Kč
Provoz, aktualizace a rozvojod 20 000 Kč / měsíc

Prvním krokem bývá strategický audit. Pokud z něj vyjde projekt, audit se započítává do ceny implementace.

Reference

„Spolupráci s panem Gottwaldem hodnotíme velmi pozitivně. Od samého počátku se ukázal jako mimořádně přínosný partner, oceňujeme především jeho preciznost, rychlost a profesionální přístup k řešení našich potřeb. Klíčové pro nás bylo, aby náš KotulaBot odpovídal výhradně na základě námi dodaných a prověřených dat, což pan Gottwald skvěle zrealizoval. Aplikace poskytuje garantovaně přesné odpovědi bez čerpání z celého internetu a perfektně plní svůj účel. Určitě ho vřele doporučujeme.“

Daniel Kotula, majitel realitní kanceláře KOTULA

„Mohu s jistotou říct, že Dan je výjimečný odborník na AI nástroje. Nestaví jen nástroje, ale dbá na to, aby byly opravdu užitečné, intuitivní a přínosné pro ty, kdo s nimi pracují. Jeho postřehy zásadně zlepšily naše pracovní postupy.“

Petr Bednar, Chief Digital and Business Development Director

Další reference

Časté otázky

Kde fyzicky běží naše data?

Máte dvě možnosti. Při lokálním provozu běží všechno na vlastním hardwaru ve vaší serverovně a data firmu neopustí. V cloudu běží model u poskytovatele (OpenAI, Anthropic nebo Google) s podepsanou zpracovatelskou smlouvou a vyloučeným trénováním na vašich datech. Pokud to preferujete, nastavím celý provoz v evropském datacentru (Azure OpenAI EU nebo Vertex AI EU). Často se vyplatí kombinace, kdy vyhledávání v dokumentech běží lokálně a do cloudu odchází jen pseudonymizovaný dotaz.

Jde mít něco jako soukromý ChatGPT pro firmu úplně na našem hardwaru bez cloudu?

Ano. Modely s otevřenými vahami běží na serveru ve vaší serverovně, a pokud to bezpečnostní politika vyžaduje, i v síti bez přístupu k internetu. Počítat je potřeba s vyšším pořizovacím nákladem na hardware, náročnějším provozem a s tím, že velké cloudové modely jsou u složitějších dotazů zatím přesnější. Podrobnosti najdete na stránce Lokální AI pro firmy.

Jak řešíte AI Act?

Architektura počítá s povinnostmi provozovatele AI od začátku: záznamy, správa dat, lidský dohled, technická dokumentace a měření kvality. Klasifikaci systému podle míry rizika, jak ji zavádí AI Act, řešíme s vaším compliance týmem nebo právníkem už v prvním týdnu. Já dodám technickou stranu, kterou váš právník může před regulátorem obhájit, výklad jednotlivých článků je jeho práce.

Co když se na nás vztahuje GDPR, DORA a MDR najednou?

Většina opatření se překrývá: dohledatelnost, správa dat, oddělení rolí a doba uchování. Architekturu proto stavím tak, aby firma dokázala regulátorovi rychle odpovědět, kdo k datům přistupoval a co s nimi systém udělal. Konkrétní mapování na GDPR, DORA a MDR řešíme s vaším právníkem, do právního výkladu nezasahuji.

Pošlete naše smlouvy klientů do OpenAI nebo Anthropic?

Ne. Citlivá data s osobními údaji neopustí vaši firmu v podobě, ve které by je mohl externí poskytovatel přečíst. Je to pevná zásada, kterou držím u všech projektů AI pro citlivá data. Při lokálním provozu data fyzicky neopustí váš hardware. V cloudové variantě se před každým voláním AI nahradí jména, čísla účtů a identifikátory smluv zástupným označením a původní údaje se doplní zpět až uvnitř vaší firmy.

Spolupracujete s naším IT a bezpečnostním týmem?

Ano, je to standard. Analýza v prvním týdnu zahrnuje kontrolu s vaším IT a bezpečnostním týmem a možné hrozby a opatření schvalujeme společně, případně i s vaším právníkem. V průběhu projektu se pravidelně potkáváme, takže nejde o jednorázové předání na konci.

Děláte penetrační testy AI aplikací?

Přímo ne, stavím systémy, které penetrační test projdou. Doporučím spolehlivého partnera, nebo test koordinuji s vaším stávajícím dodavatelem bezpečnostních služeb. Veřejný právní asistent KotulaBot prošel nezávislým penetračním testem i vlastním testem se 138 útočnými scénáři.

Co když z projektu odejdete?

U projektů s citlivými daty je to zvlášť oprávněná otázka. Celá zabezpečená AI běží na vaší infrastruktuře a na vašich účtech. Průběžně vzniká dokumentace na takové úrovni, aby systém mohl převzít člověk z vašeho IT. A stavím na standardních open-source komponentách bez proprietárních frameworků.

Kolik klientů paralelně zvládnete?

Beru maximálně šest klientů, protože bezpečnostní práce vyžaduje hloubku, kterou se nevyplatí dělat zběžně. U každého klienta mám podepsanou přísnou smlouvu o mlčenlivosti, takže informace neopustí vaši firmu ani směrem k jinému klientovi. Pokud zrovna nemám kapacitu, řeknu to rovnou.

Vlastníme zdrojový kód?

Ano. Dostanete plný kód, dokumentaci a popis infrastruktury tak, aby se dala kdykoli postavit znovu. Pokud projekt převedete na vlastní tým nebo jiného dodavatele, vezmete si všechno s sebou.

Články k tématu

Jak se staví bezpečná AI pro firmy, popisuji podrobně na blogu.

Kontakt

Pokud řešíte AI pro citlivá data, která nesmí ven z firmy, napište mi. Stačí dvě věty o tom, co řešíte. Odpovídám do dvou pracovních dní.

Kontaktujte mě

Neváhejte mi napsat a domluvíme se konkrétně.

Daniel Gottwald, AI architekt

Daniel Gottwald

AI architekt

info@dangottwald.cz

LinkedIn

Celá ČR, osobně Praha nebo Kutná Hora