Agentisk retrieval på Bedrock Knowledge Base med CDK

En almindelig RAG-løsning slår op i ét indeks og håber, at det

En almindelig RAG-løsning slår op i ét indeks og håber, at det rigtige afsnit dukker op. AWS viser nu en anden vej: en agent, der først beslutter, hvilken af to vidensbaser spørgsmålet hører hjemme i, og som svarer med henvisninger til de dokumenter, svaret bygger på. Det hele ligger på en administreret Amazon Bedrock Knowledge Base og udrulles som én AWS CDK-applikation.

Agenten vælger vidensbase, før den søger

Kernen i referencen er routing. Der er to vidensbaser, og agenten afgør ud fra spørgsmålet, hvilken af dem den skal hente fra. Data hentes gennem AgentCore Gateway.

Jeg læser det som en bevidst designbeslutning. Et spørgsmål om en intern procedure og et spørgsmål om produktdokumentation har ikke brug for at konkurrere om de samme søgetræffere. Det er min vurdering, ikke et tal fra AWS, men en opdeling efter formål giver i det mindste et sted at pege på, når en søgning rammer ved siden af. Søgningen bliver en beslutning, ikke en fast pipeline.

Det er den agentiske del: søgningen er en beslutning, ikke en fast pipeline.

Svar der peger tilbage på kilden

Referencen returnerer begrundede svar med kildehenvisninger. For en virksomhed er det forskellen på en assistent, man tør bruge, og en, man skal dobbelttjekke hver gang.

Kildehenvisninger gør også fejl synlige. Peger et svar på et forkert eller forældet dokument, kan man se det og rette problemet i selve vidensbasen. Uden henvisninger står man med en tekst, der lyder overbevisende, men ikke kan efterprøves. Vil du have det større billede af, hvordan agenter arbejder med virksomhedens egne dokumenter, kan du læse om en [supervisor-agent med RAG over virksomhedsdokumenter](/artikler/praesentationer-virksomhedsdokumenter-bedrock-agentcore/).

Syv lag, så adfærden kan læses efter

Referencen indeholder syv lag observability. Pointen er, at en agent, der selv vælger vidensbase, er svær at fejlsøge, hvis man kun ser det endelige svar. Man skal kunne følge forløbet: hvilket spørgsmål kom ind, hvilken vidensbase blev valgt, hvilke passager kom tilbage, og hvordan svaret blev sat sammen.

Det er her, driftsarbejdet afgøres. Når en bruger skriver, at svaret var forkert, skal man kunne gå baglæns gennem sporet og pege på det led, der svigtede: routingen, søgningen eller formuleringen. Det er samme tankegang som i de [observability-værktøjer, der bruges til at optimere produktionsagenter](/artikler/optimering-produktionsagenter-bedrock-agentcore-observability/).

Evaluering både ved behov og løbende

Referencen tager evaluering med fra start, i to former. Den ene kan køres on demand, når man ændrer noget, for eksempel en ny opdeling af dokumenterne eller en ændret instruktion til agenten. Den anden kører kontinuerligt.

De to former svarer på hver sit spørgsmål. Den første fortæller, om en ændring gjorde tingene bedre eller værre, før den når brugerne. Den anden er, som jeg ser det, den der fanger kvalitet, der glider over tid, fordi dokumenterne ændrer sig, eller brugerne stiller andre spørgsmål end dem, man testede med. Hvis du vil se, hvordan evaluering kan kobles til udviklingsforløbet, har vi omtalt [automatiseret agent-evaluering i en CI/CD-pipeline](/artikler/automatiseret-agent-evaluering-agentcore-github-actions/).

Hele løsningen i én CDK-applikation

Alt udrulles fra én AWS CDK-applikation. Det har en praktisk fordel, som ofte undervurderes. Når infrastrukturen er kode, kan den versionsstyres, gennemgås og genskabes i et andet miljø uden manuelt klikarbejde.

For teams, der skal fra prototype til drift, er det ofte her, tiden går. En prototype kan sættes op på en eftermiddag, men en løsning med sporing, evaluering og gentagelig udrulning kræver et fundament. En udrulbar reference som denne skærer en del af det arbejde væk, selv om den naturligvis skal tilpasses den enkelte virksomheds dokumenter og krav.

Hvad en dansk virksomhed kan tage med sig

Mange danske virksomheder har viden spredt i håndbøger, kontrakter, supportsager og interne vejledninger og vil gerne have en assistent, der kan svare på tværs. Referencen peger på tre ting, der er værd at kopiere uanset leverandør. Del viden op efter formål, så søgningen har en chance for at ramme rigtigt. Kræv kildehenvisninger, så svar kan efterprøves. Og byg sporing og evaluering ind fra dag ét, ikke som et tillæg efter lancering.

Det kræver også, at man ved, hvor data ligger, og hvem der ejer dem. Det er det kedelige forarbejde, der afgør, om en løsning holder i drift. Du kan læse mere om, hvordan en [enterprise-vidensplatform samler dokumentkaos for AI-agenter](/artikler/enterprise-vidensplatform-ai-agenter-dokumentkaos/).

01 / 01

Et øjeblik…

Henter spørgsmål…

1 / 4

Vælg ydelse

Henter ydelser…