Llama 3 + Groq + RAG: Superrychlý chatbot na vlastních datech

Velmi mě nadchl nový model Llama 3 od Meta v kombinaci s technologií Groq, díky které je odezva super rychlá. Takový chatbot je sám o sobě velmi fajn, ale co to rovnou vyzkoušet na vlastních nestrukturovaných datech? V tomto návodu si uděláme celou aplikace na Chainlit platformě. Pojďme si nejprve projít jednotlivé komponenty. Llama 3 […]

RAG chatbot s pomocí UI aplikace LangFlow

Jednoduchá aplikace RAG pro možnost nahrání pdf dokumentu a nastavení v rámci platformy LangFlow, bez kódování. Open source model Ollama na lokálním zařízení, nebo klasický openai model. Zaujal mě tento návod a tak jsem neváhal a hned ho vyzkoušel u sebe na pc. Zde je hezké schéma ohledně nastavení RAG: Langflow je nástroj navržený pro […]