Jammerbugt Kommune sætter AI på pause efter DPO-advarsler om skygge-AI

Mens mange kommuner og virksomheder kæmper for at komme ombord på AI-toget, har Jammerbugt Kommune i Nordjylland valgt en anden strategi: Bremsen er sat i, og det er med vilje.

Årsagen er alvorlige advarsler fra kommunens databeskyttelsesrådgiver (DPO), der har påpeget manglende overblik over AI-brugen og det, man kalder »skygge-AI« — altså tilfælde, hvor medarbejderne på egen hånd bruger AI-værktøjer, som kommunen ikke har godkendt eller har styr på.

Hvad er skygge-AI?

Skygge-AI er et voksende problem i offentlige og private organisationer. Det opstår, når medarbejdere på eget initiativ begynder at bruge AI-chattbots og -tools — typisk ChatGPT, Gemini eller lignende — uden at ledelsen eller it-afdelingen er klar over det. Problemet er, at disse systemer kan behandle følsomme persondata uden de nødvendige sikkerhedsforanstaltninger.

For en kommune, der dagligt håndterer personfølsomme oplysninger om borgere, er dette en reel risiko for at overtræde GDPR.

Bevidst konservativ tilgang

Jammerbugt Kommune har reageret ved at indføre klare restriktioner og en mere kontrolleret tilgang til AI-implementering. Det er et valg, der næppe er populært hos alle medarbejdere — men som kommunen vurderer er nødvendigt for at sikre, at man har styr på, hvad der sker med borgernes data.

Sagen er et eksempel på de udfordringer, som offentlige myndigheder i hele Danmark og Europa står over for: Teknologien udvikler sig hurtigere, end organisationerne kan følge med, og det skaber et reguleringsmæssigt vakuum, der kan koste dyrt.