Runway gjorde en AI-model-fejl

Runway træner ikke bare en videomodel og krydser fingre. Ifølge Phillips hviler hele udviklingsprocessen på et evalueringssæt af høj kvalitet, som modellen løbende testes mod, allerede før den rammer produktion. Evalueringssættet er ikke en enkelt tjekliste, men en samling af scenarier, der dækker vidt forskellige brugssituationer: fra realistiske portrætter til stiliserede figurer og komplekse bevægelsesmønstre.

Pointen er, at et smalt evalueringsgrundlag skjuler fejl, der først dukker op, når rigtige brugere begynder at presse modellen i retninger, udviklerne ikke havde forudset. Runway investerer derfor tungt i bredden af sine tests, fordi det er her, de fleste produktionsfejl bliver fanget tidligt, i stedet for at ende som klager fra betalende kunder.

Det mest interessante greb er, hvordan Runway skalerer selve bedømmelsen. At få mennesker til at vurdere tusindvis af videoklip manuelt er langsomt og dyrt. Runway bruger derfor store sprogmodeller som dommere, der graderer output på specifikke kvalitetsparametre: er bevægelsen naturlig, holder figuren sig inden for billedet, matcher outputtet den ønskede stil.

Denne metode, ofte kaldt LLM-as-judge i branchen, gør det muligt at teste i et omfang, som mennesker aldrig ville nå. Men den kræver disciplin. En dommermodel er kun så god som de kriterier, den er sat til at vurdere efter, og Runway har derfor arbejdet på at gøre dommermodellernes vurderinger så tætte på menneskelig smag som muligt, blandt andet ved at kalibrere dem løbende mod faktiske menneskelige bedømmelser.

Når en model er god nok, står den næste opgave: gøre den hurtig nok til at være brugbar i et produkt, folk rent faktisk vil betale for. Runway bruger distillering, hvor en mindre og hurtigere model trænes til at efterligne en større models output, uden at miste for meget kvalitet undervejs.

Samtidig bruger teamet adversarial post-training, hvor modellen bevidst udsættes for input, der er designet til at afsløre svagheder. Det er samme grundtanke, som ligger bag adversarial testing i sikkerhedsbranchen: man leder aktivt efter de tilfælde, hvor systemet fejler, i stedet for at vente på, at brugerne finder dem. Kombinationen af distillering og adversarial træning er, hvad der gør det muligt for Runway at levere realtidsgenerering uden at ofre den skarphed, der adskiller et brugbart produkt fra et teknisk demo.

Det konkrete eksempel, Phillips brugte på scenen, er værd at dvæle ved. I Runway Characters, produktet der lader brugere generere og styre AI-figurer i video, opstod der en fejl, hvor figurer i visse situationer drev ud over billedkanten under generering. Teamet forsøgte at rette problemet i selve modellen, men fandt ud af, at det var svært at løse uden at skabe nye, uforudsete fejl andre steder.

Løsningen blev derfor flyttet til frontenden. I stedet for at forsøge at tvinge modellen til aldrig at lave fejlen, byggede Runway et lag omkring modellen, der registrerer, når en figur er ved at drive ud af rammen, og korrigerer for det i outputtet, før brugeren ser resultatet. Det er en pragmatisk løsning: man accepterer, at modellen ikke er perfekt, og bygger et sikkerhedsnet omkring den i stedet for at jagte en umulig model-fix.

Den tilgang er ikke unik for videogenerering. Den samme logik gælder, når danske virksomheder ruller AI-funktioner ud i produkter, hvor svar eller output skal leveres i realtid, uanset om det er en chatbot, et anbefalingssystem eller en generativ funktion i et internt værktøj. Jeg ser ofte, at virksomheder bruger al deres tid på at forsøge at gøre selve modellen perfekt, mens de overser, at et solidt lag af evaluering, overvågning og korrektion omkring modellen ofte løser problemet hurtigere og billigere.

Runways historie er et konkret bevis på, at et bredt evalueringssæt, LLM-dommere til skalerbar kvalitetskontrol og viljen til at løse problemer uden for selve modellen tilsammen er det, der adskiller en AI-funktion, der virker i en demo, fra en AI-funktion, der virker i produktion, dag efter dag, for tusindvis af brugere.