AI-agenter: 1 ud af 5 mister kontrollen over

Som konsulent for Agent Enterprise arbejder jeg med større AI-projekter for danske virksomheder, fra problemafklaring til drift, og det billede, VB Pulse tegner, matcher det, jeg ser i praksis: ingen virksomhed sætter længere sin lid til én enkelt model eller én leverandør. Analysen viser, at langt de fleste af de 107 virksomheder kører flere sprogmodeller side om side i deres agentopsætninger, ofte styret af en orkestreringsplatform, der fordeler opgaver mellem modellerne efter pris, hastighed eller kapacitet.

Den udvikling giver god mening rent teknisk. En agent, der skal håndtere kundeservice, juridisk research og kodegenerering i samme arbejdsgang, har ikke gavn af at bruge den samme model til alle tre opgaver. Men flerstrenget orkestrering betyder også, at ansvaret for omkostningsstyring spredes ud over flere systemer, flere API'er og flere fakturaer, og det er præcis der, kontrollen begynder at glippe.

Når virksomhederne i undersøgelsen bliver spurgt, hvilke modeller de faktisk bruger i produktion, ligger Microsofts økosystem foran, drevet af den tætte integration med eksisterende Office- og Azure-installationer, som mange virksomheder allerede har betalt for og bygget arbejdsgange omkring. Det giver mening. Den letteste vej til produktion går gennem det, man allerede har adgang til.

Samtidig er Anthropics modeller dem, flest virksomheder overvejer at tage i brug fremover, når de bliver spurgt om planer for det kommende år. Det tegner et billede af en modningskurve: virksomhederne starter med det tilgængelige og velintegrerede, men leder efter noget andet, når de for alvor skal stole på modellernes ræsonnement i mere komplekse agentopgaver.

Det mest markante fund i analysen er måske, at ingen leverandør har opnået det, man kunne kalde reel loyalitet. Virksomhederne vælger orkestreringsplatforme og modelkombinationer efter, hvad der giver dem mest fleksibilitet og størst kontrol over den samlede opsætning, ikke efter mærkevareloyalitet til én enkelt AI-leverandør. Det er en sund tendens rent forretningsmæssigt. Det betyder også, at markedet for orkestreringslag er blevet det egentlige slagmark, mens de underliggende modeller i højere grad bliver et udskifteligt lag.

For en dansk virksomhed betyder det i praksis, at investeringen ikke bør ligge i at blive gift med én models API, men i at bygge en arkitektur, der kan flytte arbejdsbyrden mellem leverandører, når prisen, kvaliteten eller kapaciteten ændrer sig. Det er også der, den næste udfordring opstår.

Det er kernefundet i VB Pulse-analysen: hver femte virksomhed svarer, at den ikke har effektiv realtidskontrol til at stoppe en agent, hvis dens forbrug eller ressourcetræk løber løbsk. Det lyder som en lille andel, indtil man tænker på, hvad det faktisk dækker over. En agent, der er sat til at overvåge en proces kontinuerligt, kan i teorien fortsætte med at kalde API'er, generere tokens eller iterere på en opgave langt ud over det, der giver mening, uden at nogen menneskelig instans opdager det, før fakturaen lander.

Problemet er strukturelt, ikke et spørgsmål om dårlig disciplin. Når en agent er bygget til at handle autonomt over flere trin, og når den orkestreres på tværs af flere modeller og systemer, kræver det et lag af overvågning, der er bygget specifikt til formålet: budgetgrænser, automatiske stop-mekanismer og alarmering, når forbruget afviger fra det forventede. De fleste virksomheder bygger deres agenter først og tænker på det lag bagefter, hvis overhovedet.

Jeg ser jævnligt danske virksomheder, der har fået en AI-agent i produktion uden at have et klart svar på, hvad der sker, hvis den begynder at trække unødvendigt mange ressourcer. Det handler ikke om manglende vilje. Budgetkontrol bliver typisk tænkt ind i projektet efter go-live, ikke før.

Det praktiske svar er ikke at holde sig fra flerstrenget orkestrering, for den giver reel værdi i form af fleksibilitet og pris-ydelse. Svaret er at stille kravet om realtidskontrol allerede i arkitekturfasen: hver agent skal have et defineret loft for forbrug, en automatisk nødstop-funktion og en person eller et system, der reelt overvåger afvigelser løbende, ikke kun ved månedsafslutning. Uden det lag er en agent i produktion en åben regning, ikke et automatiseret værktøj. Det er den forskel, der afgør, om AI-investeringen bliver en gevinst eller en ukontrolleret omkostning.