Microsoft MAI-modeller sparer 89%

MAI-Image og MAI-Voice er de første modeller i rækken, der ruller ud i produktion. De erstatter ikke OpenAIs modeller helt, men overtager specifikke opgaver, hvor de matcher kvaliteten uden at trække den samme regning. Modellerne er allerede rullet ud i en stribe Microsoft-produkter, fra Bing og PowerPoint til Dynamics 365 og GitHub Copilot, selv om de færreste brugere vil lægge mærke til skiftet. Modellerne kører på Microsofts egen infrastruktur og er trænet specifikt til de opgaver, de skal løse, i stedet for at være generalister, der også kan skrive digte og forklare kvantefysik.

Det er en logisk udvikling for en virksomhed, der både ejer en stor del af OpenAI og samtidig betaler for at bruge deres modeller i egne produkter. Når du selv kan bygge en model, der er lige så god til én afgrænset opgave, giver det økonomisk mening at skifte, uanset ejerforholdet. Det er præcis den type beslutning, jeg træffer i drift hele tiden: brug den model, der løser opgaven billigst og stabilt, ikke den med det største navn.

De 89 procent kommer ikke fra en enkelt optimering, men fra summen af flere valg. En mindre model kræver færre parametre i hukommelsen, hvilket betyder færre og billigere GPU'er per forespørgsel. Den kan desuden køre på ældre eller mindre kraftfuld hardware, fordi den ikke skal håndtere alle de opgavetyper, en frontier-model er bygget til. Endelig er inferenstiden kortere, når modellen er specialiseret, hvilket reducerer den tid, hver GPU er optaget.

Samlet betyder det, at Microsoft kan køre langt flere forespørgsler på den samme mængde hardware. Kører du AI i den skala, Copilot og Bing opererer i, er den slags besparelser ikke kosmetiske. De afgør, om en funktion overhovedet kan skaleres til alle brugere, eller om den forbliver forbeholdt et begrænset antal. Det er her, økonomien i det hele afgøres, ikke i demoen.

Det mest interessante eksempel er måske ikke MAI-Image eller MAI-Voice, men en mindre kodemodel, som Microsoft har trænet specifikt til programmeringsopgaver. Efter Microsofts egne tal kører den på ældre hardware og leverer resultater, der på flere benchmarks matcher en langt større frontier-model. Det er et konkret bevis på, at størrelse ikke er det samme som kvalitet, når en model er trænet snævert nok til opgaven.

For os, der driver AI i produktion, er pointen genkendelig. Hos Agent Enterprise ser jeg ofte, at folk antager, at den dyreste model automatisk giver det bedste resultat. I praksis er en velafgrænset, mindre model tit både hurtigere og billigere at drive, uden at kvaliteten lider. Det kræver bare, at du tør matche model til opgave i stedet for at bruge den samme model til det hele.

Microsofts strategi peger på en bredere tendens. Flere store aktører er ved at indse, at en enkelt frontier-model sjældent er det økonomisk fornuftige svar på alle opgaver. I stedet vinder en arkitektur frem, hvor opgaver rutes til den model, der passer bedst i både pris og evne. Billedgenerering, tale og kode kan hver især køre på en mindre model, der er trænet til netop det, og kun de opgaver, der reelt kræver bred, generel forståelse, sendes videre til den dyre frontier-model.

For danske virksomheder, der bygger eller driver AI-løsninger, er lektien klar. Du behøver ikke vælge mellem én stor model til alt eller ingenting. Den reelle besparelse ligger i at kortlægge, hvilke opgaver der faktisk kræver den dyre models kapacitet, og hvilke der kan løses lige så godt af noget langt billigere. Microsofts tal viser, at forskellen kan være markant, når du tager dig tiden til at undersøge det.