Liquid AI LFM2.5-2.6B: lokal agent-model

De fleste agentiske AI-systemer, vi i dag bygger til vores kunder, sender data til en model, der kører i en cloud-tjeneste som OpenAI, Anthropic eller Amazon Bedrock. Det giver adgang til stærke modeller, men det betyder også, at data forlader virksomhedens egne systemer, og at driften afhænger af en netværksforbindelse og et abonnement.

LFM2.5-2.6B vender det billede. Modellen har omkring 2,6 milliarder parametre, hvilket er småt i AI-sammenhæng, men Liquid AI har trænet den specifikt til at håndtere de opgaver, en agent typisk skal løse: forstå en instruktion, vælge det rigtige værktøj, kalde det korrekt, og reagere på resultatet. Det gør, at modellen kan levere brugbar agentisk adfærd selv uden den raå regnekraft, store sprogmodeller normalt kræver.

Det praktiske resultat er, at modellen kan installeres og køre lokalt på hardware, der koster nogle hundrede kroner, som en Raspberry Pi, eller på en almindelig computer uden GPU. Ingen data forlader enheden. Ingen løbende cloud-regning. Ingen afhængighed af, at internettet virker.

Agentiske opgaver dækker over meget forskelligt, og her er det vigtigt at være konkret. LFM2.5-2.6B er bygget til opgaver som at læse en instruktion, bryde den ned i trin, kalde eksterne funktioner eller API'er, og samle resultatet til et svar. Det er den slags arbejde, en kundeserviceagent, en intern assistent til dokumenthåndtering eller en automatiseret rapportgenerator udfører hver dag.

Modellens størrelse sætter naturligt en grænse for, hvor kompleks ræsonnering den kan levere sammenlignet med de største modeller på markedet. Den er ikke bygget til at konkurrere med tunge sprogmodeller på åben, kreativ tekstgenerering eller meget lange, sammenhængende ræsonnementskæder. Til gengæld er den optimeret til præcis det, en agent har brug for: pålidelig værktøjsbrug og strukturerede beslutninger inden for et afgrænset opgavefelt.

Det gør modellen særligt velegnet til afgrænsede, gentagne arbejdsgange, hvor kravet er konsistens og kontrol frem for kreativitet.

Vi arbejder til daglig med at hjælpe danske virksomheder i gang med AI-projekter, og et af de mest tilbagevendende spørgsmål er, hvordan man kan bruge AI på data, der ikke må forlade virksomhedens egne systemer. Det gælder for eksempel patientdata, HR-oplysninger eller kontraktmateriale, hvor GDPR-kravene gør cloud-baserede løsninger komplicerede at få godkendt.

En model som LFM2.5-2.6B åbner en ny mulighed her. Fordi den kører fuldt lokalt, uden at data sendes til en ekstern server, forsvinder mange af de compliance-spørgsmål, der normalt følger med cloud-AI. Der er ingen tredjepart at indgå databehandleraftale med for selve modelkørslen, og ingen risiko for, at data krydser landegrænser undervejs.

Det betyder ikke, at lokal AI er den rigtige løsning til alle opgaver. Til komplekse ræsonnementer eller opgaver, der kræver bred viden, vil en cloud-model stadig være det bedre valg. Men til afgrænsede, datafølsomme arbejdsgange, hvor kravet er lokal kontrol frem for maksimal kapacitet, giver en model i den her størrelsesorden en reel mulighed for at bygge AI-løsninger, der er compliant fra starten, i stedet for at skulle lappe på compliance efterfølgende.

Den udvikling er værd at følge for enhver virksomhed, der overvejer, hvor grænsen skal gå mellem lokal og cloud-baseret AI i deres egen arkitektur.