RAG er ikke død – kunsten er å vite når det trengs

Nye diskusjoner fra GitHub viser at Retrieval-Augmented Generation (RAG) fortsatt er viktig i AI-utviklingen, til tross for rykter om det motsatte. RAG forsyner AI-systemer med relevant informasjon utenfra modellens treningsdata, som for eksempel intern dokumentasjon eller produktdetaljer. Uten god RAG må modellen basere seg på sin eksisterende kunnskap eller bruke ekstra ressurser på å søke etter kontekst. Dette kan forsinke prosessen og øke sjansen for ufullstendige svar, da det sløser med tokens – de minste enhetene en AI-modell behandler. RAG hjelper modellen med å starte nærmere svaret og sikrer at informasjonen er relevant for oppgaven. For norske virksomheter betyr dette at investeringer i RAG-systemer fortsatt har verdi for å sikre at AI-løsninger leverer presise og kontekstuelt riktige svar. Det understreker behovet for å kombinere ulike AI-verktøy og forstå deres unike styrker, slik som Model Context Protocol (MCP) for standardisert verktøytilgang og ferdigheter (Skills) for kontekst og prosessveiledning. RAG kompletterer disse ved å forsyne modellene med den ferske, spesifikke informasjonen de trenger.