Kognitiv gæld AI-bekvemmelighed

Det er let at forveksle hurtighed med fremskridt. Når en AI-model kan formulere et svar, et udkast eller en analyse på sekunder, opstår der en naturlig tilbøjelighed til at stoppe med at stille spørgsmålet selv. Vi accepterer det første svar, fordi det virker godt nok, og fordi tiden presser. Problemet er ikke, at vi bruger værktøjerne. Problemet er, at vi holder op med at øve den tænkning, værktøjerne erstatter.

Det ligner andre former for gæld. Den føles ikke som et tab, før den forfalder. En medarbejder, der i årevis har ladet en AI-agent strukturere sine analyser, mister gradvist evnen til selv at bygge den struktur op fra bunden. Kompetencen forsvinder ikke på én dag. Den eroderer langsomt, indtil den dag hvor systemet fejler, er nede, eller simpelthen tager fejl, og der ikke er nogen tilbage i rummet, der kan tage over. Se også en gennemgang af fordele og ulemper ved AI i virksomheder.

Kognitiv gæld opstår typisk i tre faser. Først uddelegerer man de kedelige opgaver, som ingen vil savne: at samle data, formatere rapporter, søge efter information. Det er sund arbejdsdeling. Dernæst begynder man at uddelegere de mellemliggende trin, som kræver en smule dømmekraft, som at vurdere hvilke data der er relevante, eller hvordan en konklusion skal formuleres. Her begynder tabet at tælle, fordi det er netop disse trin, der træner evnen til at ræsonnere.

Når vi stoler blindt på outputtet, fordi vi ikke længere har den daglige træning i selv at gennemskue selvsikkert forkerte svar, mister vi det sidste filter mellem os og en fejl. Vi har set virksomheder, der bygger store dele af deres beslutningsgrundlag på AI-genererede analyser, uden at nogen i organisationen længere kan reproducere ræsonnementet manuelt. Det er der, gælden bliver farlig.

For den enkelte medarbejder betyder kognitiv gæld en langsom afkobling fra faget. Den unge konsulent, der aldrig selv har skullet strukturere en kompleks analyse fra bunden, mangler et vigtigt lag af erfaring, når hun en dag skal vurdere, om en AI-agents forslag giver mening. Hun kan læse svaret, men hun kan ikke altid afgøre, om det er godt.

For organisationen er konsekvensen strukturel sårbarhed. Når kompetencen til selvstændig tænkning koncentreres i få hoveder, eller forsvinder helt, bliver virksomheden afhængig af, at systemerne virker korrekt hver gang. Som konsulent hos AI Enterprise har jeg set, hvor stor forskellen er på projekter, hvor teamet forstår logikken bag AI-løsningen, og projekter, hvor teamet blot stoler på outputtet. Det første holder, når noget går galt. Det andet giver skrøbelighed, der først viser sig i det øjeblik, noget går galt.

Det mest lumske ved kognitiv gæld er, at den ikke rammer de rutineprægede opgaver først. Den rammer de opgaver, hvor evnen til at tænke selvstændigt betyder mest: kriseledelse, komplekse forhandlinger, situationer uden facit. Her findes ikke et træningsdatasæt, der dækker den præcise situation, og her er det netop den menneskelige evne til at ræsonnere sig frem til noget nyt, der afgør udfaldet.

En organisation, der har outsourcet den daglige tænkning til agenter, opdager først mangelen, når den står i en situation, agenten ikke kan løse. Da er det for sent at genopbygge kompetencen fra den ene dag til den anden. Den slags færdigheder bygges over år, gennem gentagne øvelser i at ræsonnere sig frem, tage fejl, og lære af det.

Løsningen er ikke at afvise AI-agenter. Det ville være at kaste bekvemmeligheden væk sammen med badevandet. Løsningen er at være bevidst om, hvilke opgaver der trænes ud af organisationen, gennem bevidst AI-governance, og bevidst holde nogle af dem tilbage.