Co znamená RAG (Retrieval-Augmented Generation)?

RAG (Retrieval-Augmented Generation) doplní velkému jazykovému modelu ověřené úryvky z vaší databáze, než začne odpovídat. Řeší halucinace a to, že model nezná interní ceník, smlouvy ani aktuální sklad.

Dotaz nejdřív vyhledá relevantní kusy dokumentů. Teprve ty plus otázka jdou do LLM s úkolem: odpovídej z tohoto. Model pak cituje vaše podklady, ne statistiku z tréninku.

Kdy RAG použít

Firemní chatbot nad směrnicemi, asistent nad manuály, vyhledávání v dokumentaci. Bez kvalitních zdrojů a aktualizace dokumentů RAG jen slušně zopakuje špatná data. Není to náhrada za pořádek v obsahu.

Související pojmy: LLM, AI halucinace, prompt engineering, chatbot.

Související: AI agenti.