AgentCore Observability til on-premises

AI-agenter kører sjældent ét sted. En virksomhed kan have en agent, der trækker data fra en lokal server af hensyn til compliance, mens en anden del af arbejdet foregår hos en cloud-udbyder, og en tredje komponent kører i et helt andet miljø af historiske eller kontraktuelle årsager. Det er normal praksis i store organisationer, men det har hidtil betydet, at overvågningen af agenterne var lige så fragmenteret som infrastrukturen selv.

Med udvidelsen af AgentCore Observability kan AWS nu samle telemetri fra agenter uanset hvor de kører. Det betyder i praksis, at en agent der eksekverer på egen server, hos en anden cloud-udbyder eller i et hybridmiljø, kan sende de samme typer af sporingsdata, som en agent der kører direkte i AWS' egen infrastruktur.

Det tekniske fundament er AWS Distro for OpenTelemetry, ADOT, som fungerer som den fælles standard for at indsamle og sende telemetri uanset hvilket miljø agenten kører i. OpenTelemetry er allerede en udbredt branchestandard, så integrationen kræver ikke, at teams omskriver deres eksisterende instrumentering fra bunden.

Den anden byggesten er IAM-legitimationsoplysninger, som gør det muligt for eksterne agenter at autentificere sig sikkert mod AgentCore, selv når de fysisk befinder sig uden for AWS' netværk. Det løser et praktisk sikkerhedsproblem: hvordan man lader en agent, der kører på en server i et andet land eller hos en anden udbyder, rapportere data ind i et centralt overvågningssystem uden at åbne unødige sikkerhedshuller undervejs.

Tilsammen betyder de to komponenter, at et team kan holde selve agent-kørslen decentraliseret, mens observabiliteten centraliseres. Det er en arkitektur, mange virksomheder allerede kender fra andre systemer, men som hidtil har manglet en god løsning specifikt til AI-agenter.

Det konkrete resultat er et samlet overblik, hvor et team kan se ydeevne, fejl og sporingsdata for alle sine agenter i samme dashboard, uanset hvor de fysisk kører. Det lyder som en detalje, men det ændrer arbejdsgangen markant for teams, der ellers har skullet stykke information sammen fra flere separate systemer, ofte med forskellige formater og forskellige alarmeringsregler.

En samlet overvågning gør det lettere at opdage mønstre, der først bliver synlige, når man ser på tværs af miljøer, for eksempel om en bestemt type fejl optræder hyppigere i ét miljø end i et andet, eller om latenstiden systematisk er højere for agenter, der kører uden for AWS' eget netværk. Den slags indsigt er svær at få øje på, når data ligger spredt i separate systemer, der ikke taler sammen.

For danske virksomheder, der af GDPR-hensyn, brancheregler eller historiske IT-beslutninger kører dele af deres AI-arbejde lokalt eller hos flere udbydere, er det her en reel forbedring. Jeg ser ofte, at netop den type organisationer ender med et overvågningsbillede, der er ufuldstændigt, fordi de gode værktøjer historisk har været bundet til én sky.

Jeg har selv set problemet hos en global virksomhed med drift i flere lande, hvor en del af agent-arbejdet kørte on-premises af compliance-årsager, og hvor det tog uger at stykke et samlet overblik sammen af separate logs fra hvert miljø. Det er præcis den type friktion, en fælles observability-standard som ADOT kan fjerne, uden at nogen skal bygge deres eget telemetrilag fra bunden.