En medarbejder hos Danmarks Fængsler indtastede fortrolige
En medarbejder hos Danmarks Fængsler indtastede fortrolige oplysninger om indsatte i ChatGPT for at få hjælp til en arbejdsopgave. Oplysningerne forlod dermed myndighedens kontrollerede systemer og landede i en amerikansk chatbot, hvor data kan bruges til at træne fremtidige modeller og opbevares uden for dansk og europæisk jurisdiktion. Sagen er ikke enkeltstående. Den er et eksempel på et mønster, vi ser hos danske virksomheder og myndigheder igen og igen: medarbejdere løser deres opgaver med de værktøjer, der virker, uanset om de er godkendt.
Sagen minder om andre eksempler på ukontrolleret AI-brug, som de delte samtaler der endte i søgeresultater, hvor fortrolige oplysninger utilsigtet blev offentligt tilgængelige.
GDPR skelner ikke mellem uheld og ond vilje: konsekvensen er den samme, uanset intentionen
Hvorfor en enkelt indtastning kan udløse en anmeldelsespligtig hændelse
Det, jeg hæfter mig ved i denne sag, er at data om indsatte er særligt følsomme personoplysninger efter databeskyttelsesforordningen. Straffedomme, helbredsoplysninger og andre detaljer om en persons forhold til retssystemet kræver en skærpet beskyttelse, og en offentlig myndighed har pligt til at kunne redegøre for, hvor de opbevares, hvem der har adgang, og hvordan de slettes. Når data i stedet havner hos en tredjepartsudbyder som OpenAI, mister myndigheden kontrollen fuldstændigt. Jeg tror ikke medarbejderen handlede i ond tro, snarere ville vedkommende spare tid. Men GDPR skelner ikke mellem uheld og ond vilje. Konsekvensen er den samme uanset intentionen, og en sådan hændelse udløser typisk krav om anmeldelse til Datatilsynet inden for 72 timer.
For en dansk virksomhed ser jeg samme pointe, selvom konsekvenserne ser anderledes ud. Kundedata, HR-oplysninger, kontraktvilkår eller interne strategidokumenter er ikke lige så tungt regulerede som fængselsdata, men de er stadig underlagt databeskyttelseslovgivningen, og en lækage kan koste både bøder og tillid.
Shadow AI er ikke et teknisk problem, det er et ledelsesproblem
Det, vi ser i denne sag, er et klassisk eksempel på shadow AI: medarbejdere, der tager sagen i egen hånd, fordi de organisatoriske værktøjer enten mangler, er for langsomme eller ikke findes. Vi arbejder med større AI-projekter for danske virksomheder fra problemafklaring til drift, og det mønster går igen på tværs af brancher, hvilket underbygges af rapporter om shadow AI som voksende risiko.
Problemet er, at når en organisation ikke har en klar, tilgængelig og hurtig AI-løsning, opstår shadow AI automatisk. Medarbejdere finder selv på løsninger, fordi presset for at levere er større end bekymringen for compliance. Det gælder i fængselsvæsenet, og det gælder i enhver privat virksomhed med adgang til følsomme data, uanset om det er kundeoplysninger, lønsedler eller fortrolige kontrakter.
Sådan lukker man hullet, uden at stoppe medarbejdernes brug af AI
Det forkerte svar på denne sag er efter min erfaring et forbud mod AI-værktøjer. Det virker sjældent i praksis, fordi medarbejderne finder vej udenom alligevel, bare mere skjult. Det rigtige svar er at give medarbejderne et lovligt og lige så nemt alternativ. Jeg starter altid med, at organisationen skal have en godkendt AI-løsning, der er hurtig at bruge og dækker de opgaver, medarbejderne rent faktisk står med i hverdagen. Dernæst skal data, der behandles gennem AI-værktøjer, blive inden for organisationens egen kontrollerede infrastruktur, enten via en virksomhedsaftale med databehandleraftale på plads, eller via en løsning hostet internt eller i en europæisk sky med klare kontraktvilkår om, at data ikke bruges til træning. Og endelig kræver det synlighed. Uden overblik over hvilke AI-værktøjer der reelt bruges i organisationen, kan man ikke lukke hullerne, man kan kun reagere, når skaden er sket.
Den sag, der nu ruller i Danmarks Fængsler, minder mig om, at AI-governance ikke er en teoretisk øvelse. Det er en konkret opgave, der handler om at give medarbejderne bedre værktøjer, før de finder deres egne.