En AI-assistent fik adgang til en dansk myndigheds mailsystem, uden
En AI-assistent fik adgang til en dansk myndigheds mailsystem, uden at nogen i organisationen traf den beslutning. Det er kernen i sagen hos Sundhedsdatastyrelsen, og den fortjener mere opmærksomhed, end den umiddelbart har fået. For det handler ikke om, hvorvidt Copilot er et godt eller dårligt værktøj. Det handler om, at en funktion med adgang til følsomme data blev aktiveret af en leverandørs opdatering, ikke af en beslutning truffet af nogen med ansvar for konsekvenserne.
Opdatering
En opdatering rykkede grænsen for, hvad Copilot måtte se
Microsoft 365 opdateres løbende, og de fleste opdateringer er usynlige for brugerne. Problemet opstår, når en opdatering ikke bare retter en fejl eller forbedrer en funktion, men flytter grænsen for, hvad et AI-værktøj har adgang til. I dette tilfælde fik Copilot adgang til indhold i mailsystemet hos Sundhedsdatastyrelsen, uden at nogen internt havde godkendt den udvidelse.
Det er ikke det samme som at sige, at nogen handlede uansvarligt med vilje. Det er værre på en anden måde: ingen handlede overhovedet. En konfigurationsændring fra en ekstern leverandør blev de facto den beslutning, der afgjorde, hvilke data en AI-model kunne se. Det er en type ansvarsforskydning, vi ser gå igen på tværs af organisationer, der har rullet Microsoft 365 Copilot ud uden at have et klart billede af, hvordan standardindstillinger og adgangsrettigheder hænger sammen med deres egne datapolitikker.
Datatilsynet
Anmeldelsen til Datatilsynet sætter sagen i et andet lys
Sundhedsdatastyrelsen anmeldte selv hændelsen til Datatilsynet den 13. maj, og det ændrer sagens karakter markant. Det er ikke længere en intern diskussion om, hvorvidt en funktion var hensigtsmæssig. Det er nu et spørgsmål om, hvorvidt der er sket et brud på databeskyttelsesreglerne, fordi adgang til persondata blev udvidet uden en dokumenteret vurdering af risikoen.
Det centrale spørgsmål, en tilsynsmyndighed vil stille, er enkelt: hvem vurderede risikoen, før adgangen blev givet? Hvis svaret er, at ingen gjorde det, fordi ændringen kom fra en leverandøropdatering, så er selve fraværet af en vurdering problemet. GDPR kræver ikke, at alt går galt, før man handler. Det kræver, at man har taget stilling til risikoen, inden data eksponeres. Det ser ud til, at det trin manglede her.
GDPR kræver ikke, at alt går galt, før man handler. Det kræver, at man har taget stilling til risikoen, inden data eksponeres.
Governance
Ansvar kræver et navn under en beslutning, ikke en politik i en skuffe
De fleste organisationer har efterhånden en AI-politik. Meget få har en proces, der sikrer, at politikken rent faktisk styrer, hvad der sker, når en leverandør ændrer standardindstillinger. Det er den forskel, denne sag illustrerer bedst.
En politik på papir siger noget om, hvad organisationen mener, AI bør bruges til. Den siger ingenting om, hvem der bliver kontaktet, når Microsoft, Google eller en anden leverandør ruller en ny funktion ud, der ændrer, hvad et AI-værktøj kan tilgå. Uden et navn og en proces koblet til den type ændringer, er politikken en hensigtserklæring, ikke en kontrolmekanisme.
Mønster
Det samme hul går igen, uanset hvilken AI-sag man ser på
Sagen hos Sundhedsdatastyrelsen er ikke enestående. Den følger et mønster, vi genkender fra en række AI-relaterede hændelser det seneste år: data havner et sted, de ikke skulle være, ikke fordi nogen traf en dårlig beslutning, men fordi ingen traf nogen beslutning overhovedet. Et system opdateres, en standardindstilling ændres, en ny funktion aktiveres, og pludselig er der en ny datastrøm, som ingen har godkendt eller overvåger.
Det, der gør denne type sager svære at forebygge, er, at de ikke kræver en fejl fra en medarbejder. De kræver blot, at ansvaret for at holde øje med leverandørens ændringer aldrig blev placeret hos nogen. Det er strukturelt langt mere sårbart end en enkelt fejlvurdering, fordi det gentager sig, hver gang en ny opdatering ruller ud, og de fleste organisationer har ikke en proces, der fanger det.
Handling
Sådan undgår danske virksomheder at havne i samme situation
Hvis din virksomhed bruger Microsoft 365, Google Workspace eller lignende platforme med indbyggede AI-funktioner, er spørgsmålet ikke, om I har en AI-politik. Det er, om nogen har til opgave løbende at gennemgå, hvad leverandørens opdateringer faktisk ændrer ved adgang og databehandling. De fleste virksomheder har ingen, der har det ansvar formelt placeret.
Det konkrete skridt er at udpege en ansvarlig for AI-relaterede ændringer i de systemer, I allerede bruger, ikke kun for nye AI-projekter I selv sætter i gang. Det indebærer at gennemgå administratorindstillinger for Copilot og tilsvarende funktioner, sikre at nye AI-adgange kræver en aktiv godkendelse frem for at være slået til som standard, og lave en fast rutine for at tjekke leverandørens opdateringslogs for ændringer, der påvirker databehandling.
Det lyder som administrativt arbejde, og det er det til dels. Men det er den type administrativt arbejde, der afgør, om jeres virksomhed står med en dokumenteret, forsvarlig proces, eller med en anmeldelse til Datatilsynet, den dag en leverandør beslutter noget for jer, som I aldrig fik lejlighed til at sige nej til.