Vektordatabase
Komponenten der gør tekststykker søgbare efter betydning i en RAG-opsætning.
Indlæser... RAG
RAG (retrieval-augmented generation) er en arkitektur, hvor en sprogmodel henter relevant information fra en ekstern datakilde, før den formulerer sit svar, så svaret bygger på aktuel virksomhedsviden i stedet for kun det, modellen har lært under træning.
Indholdet på denne side er gennemgået og kvalitetssikret af Kim.
Hvordan har vi verificeret denne side?Vi tager ansvar for det indhold, vi udgiver. Ekspert verificeret betyder, at:Vores ekspert inden for emnet har sikret, at indholdet og rådgivningen er korrekt.Vi har gennemgået og kvalitetssikret de tal og kilder, der ligger til grund.
FAQ
Uddyb de tilstødende begreber og se den kommercielle løsning på datadelen af RAG.
Komponenten der gør tekststykker søgbare efter betydning i en RAG-opsætning.
Hvorfor pålidelige svar fra RAG afhænger af løbende kontrol af datagrundlaget.
Den kommercielle løsning på pipelines, opdatering og kvalitetskontrol af data til RAG.
Denne side er gennemgået og godkendt af Kim Like
Kim Like er AI- og udviklingskonsulent med mere end 10 års erfaring inden for web, software og automatisering for danske virksomheder. Han er principal konsulent hos AI Enterprise, hvor han sammen med et team driver større AI-projekter fra problemafklaring og planlægning til implementering og drift. Han skriver desuden kildekritisk om AI og automatisering, uden hype og uden løse påstande.
Ekspertiser
AI-arkitektur
RAG kombinerer to trin: et opslag, der finder de mest relevante tekststykker fra egne data, og en generering, hvor sprogmodellen bruger disse tekststykker som grundlag for svaret. Det gør RAG velegnet, når viden ændrer sig ofte, eller når mængden af data er for stor til at bygge direkte ind i modellen.
Vi arbejder løbende med denne type arkitektur i vores rådgivning. Som Kim Like, principal konsulent, har set gentagne gange, står og falder RAG-løsninger ikke med selve modellen, men med kvaliteten af de data, den henter fra, hvilket i praksis kræver en vektordatabase til at gøre tekststykkerne søgbare.
Sådan er en RAG-arkitektur sat sammen
En typisk RAG-opsætning består af en pipeline, der indsamler og opdaterer data, en vektordatabase, der gør tekststykkerne søgbare, og selve sprogmodellen, der modtager de relevante uddrag sammen med brugerens spørgsmål.
Rækkefølgen betyder noget: data hentes først, derefter sendes de mest relevante stykker med til modellen som kontekst. Uden løbende opdatering og kontrol af datagrundlaget risikerer man forældede eller misvisende svar. Det er præcis den opgave vores data-platform til AI løser.
RAG eller fine-tuning?
RAG opdaterer viden ved hvert opslag og passer til ofte skiftende eller store datamængder, mens fine-tuning kræver ny træning og passer bedre til fast stil, tone eller adfærd. RAG er typisk det rigtige valg, når viden ændrer sig ofte. Fine-tuning passer bedre, når man vil forme modellens stil eller adfærd, ikke dens faktuelle grundlag.