RAG

Engelsk term: RAG (Retrieval-Augmented Generation)
Svensk term: RAG (sökningsförstärkt generering). Förkortningen används även på svenska, särskilt i sammansättningar som RAG-lösning.

Vad är RAG?

RAG är en teknik där en AI-modell först hämtar de mest relevanta textstyckena ur en egen samling dokument och sedan skriver sitt svar utifrån dem, i stället för att bara förlita sig på det den lärde sig under träningen. Det är som att en student får slå upp i kursboken innan hen svarar.

Flödesdiagram där användarens fråga skickas till en retriever som söker i en vektordatabas, hämtar relevanta textstycken och skickar fråga plus kontext vidare till en språkmodell som svarar. — Retriever-steget letar upp relevant kontext i en extern kunskapsbas, så att språkmodellen kan svara grundat på rätt material istället för bara sin träningsdata.

Så här brukar det byggas. Dokumenten delas i korta stycken, och varje stycke görs om till en embedding, en lista med tal som fångar vad texten handlar om. Talen sparas i en vektordatabas. När du ställer en fråga görs den om på samma sätt, och databasen letar fram de stycken som ligger närmast i betydelse, även om de använder andra ord än du. De styckena läggs till din fråga innan modellen svarar. Uppslaget sker automatiskt, på samma sätt inför varje svar.

RAG ändrar inte själva modellen. Vid omträning eller finjustering är det modellen som ändras, vilket kostar tid och pengar och måste göras om när informationen blir inaktuell. Med RAG räcker det att byta dokumentet när företaget byter sina villkor. Därför är tekniken vanlig i kundtjänstbottar och interna assistenter som ska svara utifrån företagets egna regler. Svaret blir ändå aldrig bättre än det som hämtas: hämtar uppslaget ett felaktigt eller gammalt stycke kan svaret bli fel, så källhänvisningarna är värda att kontrollera.

Ibland används ordet bredare, om allt där en AI söker först och svarar sedan, till exempel när ChatGPT eller Claude söker på webben. Där bestämmer modellen själv vad den ska leta efter och söker ofta i flera omgångar, och det kallas oftare agentisk sökning. Med RAG menas oftast det fasta uppslaget i en förberedd dokumentsamling.

Ursprung och källa

Patrick Lewis et al. (Meta AI), 2020

Se även

Läs mer

Nu kan du det här ordet.

Hur många fler har du koll på? Spela Ordkollen →