En enkelt formulering afslørede kommunens AI, og det var borgeren, der opdagede den

Da Jonas Helmer havde læst de 18 sider i en afgørelse fra Glostrup Kommune, standsede han ved en enkelt formulering. Den lød ikke som et menneske. Han søgte aktindsigt, og mistanken holdt. En medarbejder havde brugt kunstig intelligens i behandlingen af hans sag, i strid med kommunens egne retningslinjer, og kommunen kalder det i en mail til ham en „klar fejl“. Det fortæller DR.

Tænk et øjeblik over mekanikken i den historie. Et AI-værktøj skrev med på en myndighedsafgørelse om dækning af udgifter i forbindelse med Jonas Helmers muskelsvind, og det eneste, der afslørede det, var en borger med god sprogfornemmelse. „Sagsbehandleren har benyttet AI i form af Copilot og Chatgpt, som støtte i den kommunale sagsbehandling“, skrev kommunen til ham, da han spurgte. Glostrup Kommunes regler tillader ellers gerne AI, bare ikke til at sagsbehandle eller træffe afgørelser, vurderinger og beslutninger.

Historien har mødt det spørgsmål før. Da trykpressen i midten af 1400-tallet gjorde det muligt at fremstille tekster uden en skrivers hånd, mistede læseren sit gamle bevis på, hvem der stod bag ordene. En håndskrift kunne genkendes, en trykt side kunne ikke. Løsningen blev mærker og tilladelser, trykkerens bomærke på titelbladet og sidenhen myndighedernes krav om godkendelse, før et værk måtte gå i trykken. Samfundet opfandt simpelthen nye beviser på, hvem der havde skrevet hvad.

Det er præcis det bevis, der mangler i Glostrup. Jonas Helmer mistænker kommunen for at have lagt hans persondata ind i AI-værktøjet. Kommunen afviser, men kan ikke dokumentere sin afvisning, for medarbejderen har siden slettet sine chats og forespørgsler til værktøjet. „Jeg stoler ikke en skid på det“, siger Jonas Helmer til DR. Hos Datatilsynet vurderer IT-sikkerhedsspecialist Allan Frank, at det formentlig er et brud på persondatasikkerheden, hvis mistanken holder, fordi oplysningerne i så fald er behandlet i strid med kommunens instruks. EU’s databeskyttelsesregler kræver, at en myndighed kan gøre rede for, hvad der sker med borgerens oplysninger, når de lægges ind i et AI-værktøj, og bliver oplysningerne givet videre til den virksomhed, der ejer værktøjet, kræver det lovhjemmel, som offentlige myndigheder ifølge Allan Frank generelt ikke har.

Sagen er langtfra enestående. Mindst 50 anmeldelser af den type er dukket op hos Datatilsynet de seneste år, fortæller Allan Frank til DR, så spørgsmålet er ikke, om forvaltningen tager sprogmodellerne til sig. Det gør den allerede. Forandringen går derfra i mindst to retninger, og de er lige virkelige. I den ene retning ligger et forvaltningsapparat, hvor værktøjerne læser bilag, foreslår formuleringer og udjævner forskelle mellem sagsbehandlere, så afgørelser ligner hinanden på tværs af kommunegrænser. I den anden retning flytter borgerens bevis for, at et menneske faktisk har set på sagen, fra en underskrift til tekniske logfiler, og i Glostrup viste logfilerne sig at kunne slettes af den medarbejder, de skulle føre tilsyn med.

Jonas Helmer formulerer sin del af regnestykket enkelt. Er svaret skrevet af et menneske, ved han, at et menneske har brugt tid på hans sag, og det gør ham mere tryg. Glostrup Kommune ønsker ikke at stille op til interview, men oplyser skriftligt, at den nu præciserer sine retningslinjer for brug af AI og vil sikre, at reglerne kendes og efterleves i hele organisationen. Dermed står det interessante spørgsmål tilbage og arbejder. Hvordan beviser en myndighed, at et menneske har truffet en afgørelse, når værktøjets spor kan slettes med et klik?