Co RAG řeší
LLM bez kontextu odpovídá obecně. RAG (Retrieval-Augmented Generation) nejdřív dohledá relevantní úryvky z vašich dokumentů a teprve pak generuje odpověď — s citací zdroje.
Příprava dat
- Centralizace — směrnice, smlouvy, wiki, ticket history podle domény.
- Čištění — duplicity, zastaralé verze, skeny bez OCR.
- Struktura — metadata (tým, platnost, produktová řada).
Chunking a indexace
Stříhejte dokumenty na smysluplné bloky (odstavce, sekce), ne fixní 500 tokenů uprostřed věty. U tabulek a právních textů bývá potřeba custom parser.
Oprávnění
Stejný index nesmí vrátit HR směrnici uživateli ze skladu. RAG musí respektovat ACL stejně jako SharePoint nebo Google Drive.
Evaluace kvality
- Sada reálných otázek od zaměstnanců.
- Měření: relevance, faktická správnost, citace zdroje.
- Human review u citlivých domén.
