Fem kontrollag AI-agenter mangler

Det, der gør de fem undersøgelser fra VentureBeat Research interessante, er ikke den enkelte procentsats. Det er, at mønsteret gentager sig på tværs af helt forskellige respondentgrupper og metoder. Virksomheder har konsekvent prioriteret at få agenter i drift hurtigt, fordi konkurrencepresset og forventningerne fra ledelsen har været store. Governance-laget, det der skal sikre, at en agent handler inden for de rigtige rammer, med den rigtige adgang og til den rigtige pris, er kommet som en eftertanke.

Det er en forståelig rækkefølge, men en dyr en. Når et kontrollag bygges oven på en agent, der allerede har adgang til systemer og træffer beslutninger, bliver det til lapperi frem for arkitektur. Man patcher huller, i stedet for at designe en sikker vej fra start.

De fem kontrollag, undersøgelserne peger på, dækker hver sit hul:

- **Identitet** - agenter har ofte ikke deres egen entydige identitet i systemerne. De arver rettigheder fra en servicekonto eller en bruger, hvilket gør det svært at spore, hvad agenten faktisk har gjort, og med hvilken bemyndigelse. - **Evaluering** - der findes ofte ingen systematisk test af, om agenten leverer korrekte og sikre svar over tid. Kvaliteten måles ad hoc, hvis den overhovedet måles. - **Omkostningstelemetri** - virksomheder ved sjældent, hvad den enkelte agent-opgave koster i tokens og compute, før regningen lander. Uden telemetri på forbruget er det umuligt at optimere eller sætte budgetter. - **Kontekstlag** - agenten mangler struktureret adgang til den viden, den faktisk skal bruge, og henter i stedet for meget eller for lidt, ofte uden kontrol med kilder. - **Orkestrering** - når flere agenter eller trin skal samarbejde, mangler der et lag, der styrer rækkefølge, fejlhåndtering og eskalering til et menneske.

Hver for sig er de fem lag ikke nye idéer i it-verdenen. Det nye er, at de nu er blevet synlige som et samlet governance-problem, fordi agenter opererer med en grad af autonomi, traditionel software aldrig har haft.

Et af de mest konkrete tal i undersøgelserne er, at mellem 57 og 68 procent af virksomhederne har skiftet leverandør på tværs af de fem lag inden for det seneste år. Det er et usædvanligt højt tal, og det fortæller noget vigtigt: der findes endnu ikke en moden, samlet standardløsning på markedet.

Virksomheder afprøver identitetsudbyder efter identitetsudbyder, evalueringsværktøj efter evalueringsværktøj, fordi de første valg ikke leverede det, der var brug for i praksis. Det er ikke et tegn på dårlig research fra virksomhedernes side. Det er et tegn på, at markedet for agent-governance stadig er ungt, og at ingen enkeltleverandør endnu dækker alle fem lag godt nok.

For en virksomhed der overvejer at investere i governance-værktøjer, betyder det, at man skal forvente en vis grad af udskiftning undervejs. Det taler for at vælge løsninger med åbne standarder og gode integrationsmuligheder frem for lukkede platforme, man binder sig til for hårdt.

Et andet centralt fund er, at en stor del af det, virksomheder kalder AI-agenter, i praksis fungerer som chatbots med et par ekstra værktøjer koblet på. De mangler den egentlige agent-egenskab: evnen til selvstændigt at planlægge flere trin, hente relevant kontekst og handle på tværs af systemer uden konstant menneskelig instruktion.

Det lyder som en teknisk detalje, men det har direkte konsekvenser. En chatbot-agent uden rigtig orkestrering og kontekstlag kan ikke skalere til komplekse opgaver. Den fejler stille, når opgaven bliver mere kompleks end det, den blev testet på, og fordi evalueringslaget ofte mangler, opdager virksomheden det ikke, før en kunde eller medarbejder rammer fejlen.

Det skaber en falsk tryghed. Ledelsen tror, virksomheden har agenter i drift, mens det reelt er samtalegrænseflader med begrænset autonomi og utilstrækkelig kontrol. Forskellen mellem de to er ikke kosmetisk. Det er forskellen på, om man kan stole på, at agenten håndterer en kritisk proces korrekt, når ingen ser med.

Vi arbejder med større AI-projekter for danske virksomheder fra problemafklaring til drift, og det mønster, undersøgelserne beskriver, matcher det, vi ser i praksis: governance kommer sjældent først, fordi presset for at levere resultater hurtigt er reelt.

Den gode nyhed er, at man ikke behøver at stoppe eksisterende agenter for at lukke hullerne. De fem lag kan tilføjes trinvist, og den mest effektive rækkefølge starter typisk med identitet og omkostningstelemetri, fordi de giver det hurtigste overblik med den mindste indgriben i selve agentens funktion. Man kan se, hvem eller hvad der handler, og hvad det koster, uden at ændre agentens logik.

Evaluering og kontekstlag kræver typisk lidt mere arbejde, fordi de forudsætter, at man definerer, hvad en korrekt agent-handling faktisk er, og strukturerer den viden, agenten skal trække på. Orkestrering kommer naturligt sidst, når flere agenter eller trin skal spille sammen, og det er her de fleste virksomheder først opdager, om deres agenter reelt er agenter, eller blot chatbots i forklædning.

Den konkrete anbefaling er enkel: kortlæg hvilke af de fem lag der allerede findes i jeres opsætning, og hvilke der mangler, før man udvider til flere agenter eller mere kritiske processer. Det er billigere at lukke hullerne nu end at opdage dem, når en agent har truffet en beslutning, ingen kan spore tilbage til en årsag.