enterprise AI evalueringsgab agent autonomi

Da agentbaseret AI for alvor kom ind i virksomhedernes it-portefølje, startede de fleste med snævre, overvågede opgaver: udkast til svar, forslag til klassificering, første udkast til rapporter, altid med et menneske som sidste filter. Den model holder ikke længere. I 2026 sætter flere virksomheder agenter til at handle direkte, godkende egne trin og eskalere kun ved undtagelser. Det sparer tid og reducerer flaskehalse, men det flytter også ansvaret for kvalitetssikring fra mennesket til systemet selv.

Problemet er, at de fleste organisationer ikke har opgraderet deres evalueringsmetoder i samme tempo. En agent, der har bestået en intern test én gang, bliver ofte behandlet som pålidelig fremadrettet. Men en enkelt bestået evaluering siger meget lidt om, hvordan agenten opfører sig under andre input, andre datasæt eller andre pressede situationer i produktion.

Den klassiske softwaretankegang, hvor en funktion enten fejler eller virker konsekvent, holder ikke for sprogmodeller og agentkæder. Selv med identiske input kan en agent producere forskellige svar fra kørsel til kørsel, fordi modeller er probabilistiske og fordi agentarkitekturer ofte involverer flere trin, værktøjskald og mellemliggende beslutninger, der hver især introducerer variation.

Det er særligt farligt i opgaver med reelle konsekvenser: kundekommunikation, finansielle transaktioner, juridiske vurderinger eller adgang til følsomme systemer. En anden dokumenteret vinkel på dette er den statistisk undervurderet fejlrate, som opstår, når enkeltstående testresultater bruges til at forudsige produktionsadfærd.

Det mest opsigtsvækkende tal i den aktuelle debat handler ikke om, hvor meget autonomi agenter får, men om hvor lidt virksomhederne stoler på deres egne kontrolmekanismer. I en ny VB Pulse-undersøgelse fra juni 2026 svarer 66 procent af de adspurgte, at de har brugt automatiserede AI-evalueringer i deres organisation. Men kun 5 procent erklærer sig fuldt ud trygge ved, at disse evalueringer reelt fanger fejl, før de rammer produktionsmiljøet.

Det spring, fra 66 til 5 procent, er et tillidskollaps. Langt de fleste virksomheder har altså implementeret en form for automatisk kvalitetskontrol, men næsten ingen tror reelt på, at kontrollen virker, når det gælder. De kører videre med et sikkerhedsnet, de selv tvivler på holder - et mønster, der ligner agenter der skubbes ud uden tillid set i anden nyere enterprise-AI-forskning. Det hænger også sammen med kontrolgabet mellem ejerskab og observabilitet, som gør det svært at vide, hvem der reelt kan gribe ind, når en agent fejler.

Den naturlige konsekvens er, at repeterbarhed må behandles som en selvstændig metrik, på linje med nøjagtighed og svartid, ikke som en implicit egenskab man antager følger med en bestået test. En agent skal ikke blot vise, at den kan løse en opgave korrekt én gang. Den skal vise, at den løser opgaven korrekt konsekvent, på tværs af varierende input, over tid og under de betingelser, den faktisk vil møde i drift.

Dette hænger sammen med en anden kendt svaghed i agentkæder, nemlig selvsikkert forkerte agent-svar, som kan passere en engangstest uden at blive opdaget.

Den mest holdbare tilgang er at lade autonominiveauet følge konsekvensen af fejl, ikke virksomhedens appetit på effektivisering. En agent, der udkaster interne noter, kan sagtens få bred frihed, fordi en fejl her koster minimalt. En agent, der godkender udbetalinger, sender kundekommunikation eller ændrer produktionsdata, bør derimod holdes i et strammere bånd, uanset hvor godt den har klaret sig i tidligere tests.

Det kræver, at organisationer eksplicit kortlægger, hvilke opgaver der tåler variation, og hvilke der ikke gør, og lader den kortlægning styre, hvor meget agenten får lov til selv. Det er en mere arbejdskrævende form for risikobaseret AI-implementering i organisationen end at give alle agenter samme frihedsgrad, men det er den eneste, der matcher den usikkerhed, som de nye tillidstal afslører.