Minulý týden jsem měl tu čest přednášet pro mastermind skupinu špičkových SEO expertů na konferenci Marketingová Plzeň. Téma mé přednášky, „Architektura pokročilých RAG systémů“, vycházelo z mého článku na blogu, ale diskuze a zpětná vazba po akci byly tak podnětné, že jsem se rozhodl vytvořit tuto novou, rozšířenou verzi.
Tento článek tedy není jen přepis slajdů. Je to hluboký ponor do myšlenek, které na akci zazněly, obohacený o mé komentáře a odpovědi na nejlepší dotazy z publika.
Proč je dnes pro každého marketéra zásadní rozumět RAG architektuře?
Protože AI ve vyhledávání už není budoucnost, je to realita. Éra deseti modrých odkazů pomalu končí a nastupuje éra přímých, syntetizovaných odpovědí. A motorem, který tyto odpovědi pohání, je přesně RAG (Retrieval-Augmented Generation).
Jednoduše řečeno, RAG je proces, kterým nutíme AI, aby si odpověď přečetla z ověřených podkladů, místo aby si ji vymýšlela. Je to tahák, který dáváme umělé inteligenci.
Většina firem dnes ale staví jen „naivní RAG“, který často selhává. Skutečná hodnota se skrývá v pokročilé architektuře. A právě o ní byla má přednáška.
8 rozhodnutí, která dělí průměrný RAG od špičkového
Stavba robustního RAG systému není jen o napojení na API. Je to série klíčových architektonických rozhodnutí. Zde je osm nejdůležitějších, které jsem na konferenci rozebral.
1. Kvalita dat
Vstupní brána ke všemu. Pokud AI krmíte datovým „odpadem“, dostanete odpad i na výstupu. Klíčové je mít pečlivě vybrané, očištěné a správně označené zdroje dat. Metadata, kategorie a štítky nejsou jen formalita, jsou to pro AI klíčové navigační body.
2. Reranking
Běžné vektorové vyhledávání najde dokumenty, které jsou dotazu sémanticky podobné. Ale podobné neznamená vždy relevantní. Proto do hry vstupuje reranker, chytřejší vrstva kontroly. Je to jako šéfeditor, který vezme deset nalezených dokumentů a seřadí je podle skutečné relevance, čímž zajistí, že se k AI dostanou jen ty nejlepší podklady.
3. Velikost „chunků“
Předtím, než data uložíme, musíme je rozdělit na menší části, tzv. chunky. Jejich velikost je kritická. Příliš velké chunky obsahují mnoho šumu a jsou drahé na zpracování. Příliš malé chunky zase ztrácí kontext. Nalezení optimální velikosti je proces neustálého testování a ladění. Neexistuje přesná a správná univerzální velikost, vždy záleží na daném případu a ladění celého systému jako celku.
4. Volba modelu
OpenAI, Gemini, Anthropic, Llama? Velký nebo malý model? Rychlý nebo chytrý? Volba správného LLM je jako výběr motoru pro auto. Neexistuje jedna nejlepší volba, existuje jen ta nejlepší volba pro konkrétní účel. Pro jednoduché úkoly stačí rychlý a levný model, pro komplexní analýzu potřebujete ten nejvýkonnější.
5. System prompt
Toto je duše vašeho AI asistenta. System prompt není jen pár instrukcí. Je to detailní zadání, které definuje, kdo AI je, jaké má cíle, jakým tónem má komunikovat, jakých hodnot se má držet a jak má přistupovat k řešení problémů. Precizně napsaný system prompt je rozdíl mezi generickým chatbotem a skutečným expertním asistentem. Velkou přidanou hodnotu jsou konkrétní příklady výstupů pro model, díky kterým ladíte ideální odpověď chatbota.
6. Latence a cena
Nikdo nechce čekat na odpověď deset vteřin. Optimalizace rychlosti a nákladů je klíčová. Toho dosáhneme chytrou kombinací technik: používáme menší modely pro dílčí úkoly, cachujeme často kladené dotazy a hlavně implementujeme real-time streaming, aby uživatel viděl odpověď postupně, jak se generuje.
7. GraphRAG (Neo4j)
Toto je můj klíčový trumf a budoucnost RAG systémů. Místo abychom data ukládali jako izolované texty, modelujeme je ve znalostním grafu. Díky tomu AI nechápe jen slova, ale i vztahy a souvislosti mezi nimi. Na dotaz „Jaké jsou výhody produktu Alfa?“ tak dokáže nabídnout i související „doplňkovou službu Beta“, protože v grafu vidí, že tyto dvě entity spolu souvisí. Zachytíme vazby, které v běžném sémantickém hledání nejsou na první pohled patrné.
8. LangGraph a agentní systémy
Místo jednoho monolitického procesu stavíme tým spolupracujících AI agentů. Jeden agent je expert na vyhledávání, druhý na kritiku a ověřování faktů a třetí na finální formulaci odpovědi. Díky frameworku LangGraph mohou tito agenti spolupracovat, vracet si úkoly a navzájem se kontrolovat, což dramaticky zvyšuje spolehlivost a přesnost finální odpovědi.
Je zásadní rozdíl, pokud vám chatbot odpovídá obecně na všechno, nebo se vás doptá na to, jak přesně svůj dotaz myslíte a následně může zpracovat mnohem lepší a konkrétnější odpověď na váš dotaz.
Bonus: Nejlepší dotazy z diskuze
Po přednášce se rozvinula skvělá a velmi podnětná diskuze. Zde jsou odpovědi na dva z dotazů, které rezonovaly nejvíce.
Otázka 1: „Jak se stavíš k tvorbě obsahu pomocí AI? Není to v rozporu s myšlenkou E-E-A-T a budováním skutečné autority?“
Odpověď: To je naprosto klíčová otázka. Můj postoj je jasný: AI není náhrada za experta. AI je nástroj pro experta. Problém není v tom, zda AI používáte, ale jak ji používáte. Pokud někdo bez znalostí použije AI k vygenerování průměrného, generického článku, je to špatně a Google to dříve či později pozná. Ale pokud já jako AI Architekt použiji AI jako svého „juniorního výzkumníka“, který mi pomůže s rešerší, sumarizací a přípravou podkladů, je to něco úplně jiného.
AI za mě udělá 80 % rutinní práce a já se mohu soustředit na zbylých 20 % , na strategický vhled, unikátní know-how, ověřování faktů a finální formulaci. AI mi šetří čas, ale moje expertiza, jméno a zodpovědnost zůstávají za každým slovem. V tomto modelu AI autoritu neředí, ale naopak ji posiluje a škáluje.
Vyhledávač (nebo AI chatbot) nakonec ocení kvalitní, personalizovaný a komplexní článek, bez ohledu na to, zda jej napsal člověk, nebo člověk s pomocí stroje. Je to jen nástroj, nic víc.
Otázka 2: „Kterou vektorovou databázi bys dnes doporučil a proč?“
Odpověď: Na trhu je spousta skvělých, specializovaných vektorových databází jako Pinecone nebo Weaviate, které jsou vynikající pro čistě sémantické vyhledávání. Pro většinu RAG projektů odvedou skvělou práci. Já ale jako AI Architekt přemýšlím o krok dál. Pro své klíčové projekty proto volím jiný přístup: nativní vektorový index integrovaný přímo v grafové databázi Neo4j. Důvod je strategický. Nechci, aby můj systém rozuměl jen sémantické podobnosti textů. Chci, aby rozuměl i vztahům mezi nimi. Díky tomuto hybridnímu přístupu (GraphRAG) mohu klást mnohem chytřejší dotazy.
Mohu se zeptat nejen „najdi mi texty podobné tomuto“, ale i „najdi mi texty podobné tomuto, které zároveň souvisí s produktem Alfa a byly napsány expertem z oddělení Beta“. Je to mnohem robustnější a inteligentnější přístup, který mi umožňuje stavět řešení, jež jsou o řád lepší než standardní RAG. Ale samozřejmě jsou různé případy a každý specifický případ vyžaduje řešení na míru.
Někde postačí pro jednoduchou databázi jen ChromeDB, jinde se může hodit pro relační vazby třeba PostgreSQL (který mimochodem primárně používám na ukládání historie chatu, paměť a logy).
Budoucnost je architektura
Jak jsem řekl v Plzni, budoucnost SEO není o klíčových slovech, je o pokročilé architektuře. Ať už stavíte interního AI asistenta, nebo se snažíte být vidět ve světě AI vyhledávačů, principy jsou stejné. Vyhraje ten, kdo dokáže svá data nejen vytvořit, ale i chytře strukturovat a propojit.
Děkuji ještě jednou za pozvání a skvělou atmosféru. Pokud vás tato témata zajímají do hloubky, sledujte mě na LinkedInu nebo se přihlaste k odběru newsletteru na mém blogu.
