Temporale politikker AgentCore - stateful

En traditionel adgangspolitik er stateless. Den kigger på identitet, ressource og handling, og svarer ja eller nej uden at vide, hvad der skete for fem sekunder siden. Det fungerer fint for mennesker, der klikker sig gennem et system i eget tempo. Det holder ikke for en AI-agent, der kan udføre hundredvis af handlinger i sekundet og bygge en hel kæde af beslutninger, før et menneske overhovedet har opdaget, at noget er i gang.

Temporale politikker i AgentCore gør autorisationen stateful. Systemet husker agentens sessionshistorik og kan bruge den til at afgøre, om den næste handling giver mening i lyset af de foregående. Har agenten allerede forsøgt at trække tre gange på samme konto inden for et minut? Har den gennemført en usædvanlig sekvens af handlinger, der ligner en fejlkonfigureret loop frem for en bevidst arbejdsgang? Den slags mønstre er usynlige for en statisk regel, men de bliver synlige, når politikken kan se tilbage i tid.

Det er en forskel, der handler om agent-arkitektur i sig selv. Vi har set gentagne gange, at de fejl, der koster mest i produktionsmiljøer, sjældent er én enkelt forkert handling. De er summen af en kæde af handlinger, der hver for sig ser rimelige ud, men som tilsammen fører galt af sted.

Det konkrete problem, temporale politikker løser, er eskalering. En agent, der får lov at gentage den samme fejlslagne handling igen og igen, kan på kort tid generere en regning, sende en storm af fejlagtige API-kald eller udføre en handling i så stort omfang, at skaden er sket, længe før nogen mærker det.

Med temporale politikker kan man sætte grænser, der reagerer på mønstre snarere end enkeltstående handlinger. Et eksempel: en agent, der forsøger at oprette ressourcer i en cloud-konto, kan tillades op til et vist antal forsøg inden for et tidsvindue. Overskrides grænsen, stopper systemet automatisk, uanset om hvert enkelt kald i sig selv så legitimt ud. Det samme princip kan bruges til at fange agenter, der cykler gennem samme fejl uden fremgang, hvilket ofte er tegn på en logisk fejl i selve agentens planlægning frem for en reel opgave, der skal løses.

En af de mest konkrete anvendelser af temporale politikker er at sætte et loft over, hvor stor finansiel eksponering en agent kan skabe inden for en given periode. Det kan være beløbsgrænser for transaktioner, grænser for hvor mange ressourcer der må provisioneres, eller grænser for API-forbrug, der har direkte omkostninger tilknyttet.

Når en agent nærmer sig eller overskrider den grænse, kan politikken kræve menneskelig godkendelse, før agenten kan fortsætte. Det er en vigtig detalje: det handler ikke om at stoppe agenten permanent, men om at indsætte et kontrolpunkt, hvor et menneske aktivt skal sige ja til at fortsætte. Den model balancerer autonomi mod ansvar på en måde, der giver mening for virksomheder, der ønsker agenter til at handle selvstændigt, men ikke uden nogen form for opsyn, når indsatsen stiger.

Det er også her, temporale politikker adskiller sig fra almindelig rate limiting. Rate limiting handler om volumen. Temporale politikker handler om kontekst, mønster og risiko akkumuleret over tid, hvilket gør dem langt mere præcise som beskyttelse mod de fejl, der faktisk gør ondt.

For virksomheder, der allerede har eller planlægger AI-agenter i produktion, betyder temporale politikker, at sikkerhedslaget kan flyttes fra agentens egen kode til en fælles infrastrukturkomponent. Det gør det muligt at håndhæve konsistente regler på tværs af mange agenter, uden at hver enkelt agent skal implementere sin egen beskyttelse mod eskalering og misbrug.

Som principal konsulent hos AI Enterprise arbejder jeg dagligt med at få større AI-projekter fra idé til drift, og det er netop denne type infrastrukturbeslutning, der ofte afgør, om et agentprojekt kan skaleres trygt, eller om det forbliver et pilotprojekt, fordi ingen tør give det fuld autonomi. Temporale politikker fjerner en del af den usikkerhed ved at gøre agentens historik til en aktiv del af beslutningsgrundlaget, ikke bare noget der logges bagefter.

For danske virksomheder, der overvejer at bygge agenter med reel handlefrihed, er det her budskabet: infrastrukturen omkring agenten er lige så vigtig som agentens egen intelligens. En agent, der kan huske sin egen fortid og handle derefter, er en agent, man rent faktisk kan stole på i produktion.