Mindstone Rebel - AI agent-OS med automatisk

Rebel er bygget som et lokalt-first lag, der sidder mellem brugeren og de faktiske modeller. I stedet for at en agent er hardkodet til én model, vurderer systemet løbende, hvilken type data en opgave rører ved. Rutineopgaver med data, der ikke er følsomme, kan sendes til en stærk cloud-model, mens opgaver med personoplysninger, interne dokumenter eller andet forretningskritisk materiale holdes lokalt. Det er præcis den type grænsedragning, jeg selv koder ind som fast politik, når jeg sætter agenter i produktion for en kunde: hvad må agenten røre ved, og hvad skal den lade ligge.

Det er en praktisk løsning på et problem, jeg ser hos stort set alle mine kunder: man vil gerne bruge de bedste modeller til de tunge opgaver, men man vil ikke sende kundedata eller interne strategipapirer gennem en ekstern API, hvis man kan undgå det. Rebel gør den afvejning til en indbygget del af arkitekturen i stedet for noget, udviklere skal huske at tage stilling til for hver eneste funktion. Det er godt tænkt, for jeg har set nok agenter gå i produktion uden den grænse til at vide, at den slags ikke må være en eftertanke.

Det, der adskiller Rebel fra almindelige agent-frameworks, er, at hukommelsen som udgangspunkt ligger lokalt. Agenten husker konteksten fra tidligere opgaver, brugerens præferencer og relevante data uden at det materiale nødvendigvis forlader den lokale infrastruktur. Når en opgave kræver en cloud-models kapacitet, sendes kun det nødvendige udsnit af konteksten videre, ikke hele hukommelsen. Det er samme princip, jeg selv holder fast i, når jeg bygger på egen infrastruktur i stedet for at leje mig ind hos en cloud-udbyder: jeg vil kunne se, hvor dataene faktisk ligger, ikke bare stole på en beskrivelse af det.

Den model-routing, det kræver, er ikke triviel. Systemet skal kunne klassificere en opgave hurtigt nok til, at brugeren ikke oplever forsinkelse, og det skal gøre det konsekvent nok til, at man kan stole på beslutningen. Det er præcis den type infrastrukturproblem, jeg ser flere og flere af mine kunder støde ind i, når de går fra at eksperimentere med AI-agenter til at drifte dem i stor skala. Demoen kan vælge rigtigt en gang. Produktion skal vælge rigtigt hver gang, også klokken tre om natten, hvor ingen ser med.

Rebel er bygget op omkring tre byggeklodser. Skills er de konkrete kompetencer, en agent kan trække på, for eksempel at søge i et dokumentarkiv eller udføre en beregning. Operators er de enheder, der udfører selve handlingerne, og som kan tildeles forskellige modeller afhængigt af opgavens karakter. Automations binder det hele sammen til arbejdsgange, der kan køre uden manuel indgriben for hvert trin.

Den struktur gør det muligt at bygge agent-løsninger, der ligner egentlige systemer frem for enkeltstående chatbots. En Operator, der håndterer kundedata, kan bindes til en lokal model, mens en Operator, der genererer marketingtekst ud fra offentligt tilgængelig information, roligt kan sendes til en cloud-model med bedre sproglig kvalitet. Det er nøjagtig den slags opdeling, jeg selv sætter op, når jeg bygger agent-driften hos Agent Enterprise: ikke én model til alt, men en klar aftale for hver enkelt Operator om, hvad den må og ikke må sende videre.

Mindstone har valgt at udgive Rebel under en Fair Source-licens. Det betyder, at koden er offentligt tilgængelig og kan inspiceres og bruges, men med begrænsninger på, hvordan den kan kommercialiseres af konkurrerende udbydere. Det er en mellemvej mellem fuldt open source og et lukket, proprietært system. Jeg holder selv af den model, fordi den giver mig mulighed for faktisk at se, hvordan noget virker, i stedet for at tage en leverandørs ord for det.

For en kunde, der overvejer at bygge sin agent-infrastruktur op omkring Rebel, betyder licensformen, at man kan se præcis, hvordan model-routingen og hukommelseshåndteringen er implementeret. Det er den slags sporbarhed, jeg selv insisterer på hos mine egne kunder: hvis jeg ikke kan vise et log eller en diff for, hvad en agent gjorde og hvorfor, har jeg ikke leveret en medarbejder, jeg har leveret en risiko med pænt layout.

Vi arbejder med større AI-projekter for danske virksomheder fra problemafklaring til drift, og det spørgsmål, der går igen hos næsten alle, er ikke om man kan bruge AI-agenter, men hvordan man styrer, hvilke data der forlader huset, og hvilke der ikke gør. Rebel peger på en retning, hvor det spørgsmål bliver en del af arkitekturen fra starten i stedet for en efterrationalisering, når compliance-afdelingen banker på.

Det betyder ikke, at man skal skifte hele sin agent-stak ud på baggrund af en enkelt lancering. Men det er et signal om, hvor markedet bevæger sig hen: væk fra one-size-fits-all-modeller og hen imod systemer, der eksplicit tager stilling til datafølsomhed som en del af selve infrastrukturen. Samme bevægelse ses i pay-per-intelligence routing på Amazon Bedrock, hvor virksomheder også styrer omkostninger og model-valg for agenter i drift. For virksomheder, der allerede har agenter i drift og kæmper med at forklare deres egen model-strategi til ledelse eller kunder, er det en arkitektur, der er værd at holde øje med, uanset om man ender med at bruge Rebel selv eller bygger noget tilsvarende internt.