De offentlige myndigheder i Danmark har et tillidsproblem. Mere specifikt har de for meget tillid til, hvad kunstig intelligens kan gøre for dem og for samfundet.
Senest kunne Ingeniøren afdække, hvordan de danske teleselskaber har trukket stikket på et stort opslået AI-værktøj, der skulle beskytte danske borgere mod de svindel-SMSer, der i årevis har været brugt til at franarre uskyldige ofre alt fra MitID-kodeord til bankoplysninger.
Artiklen fortsætter efter annoncen
Den gode nyhed er, at det faktisk virkede. Mere end 3 millioner svindel-SMSer blev forhindret i at nå frem til ofrene. Den dårlige nyhed er, at det var godt til at være sandt.
Systemet fungerede nemlig kun, fordi ansatte hos de danske teleselskaber manuelt læste de beskeder, der blev flaget som potentiel svindel. Uden at have tilladelse til det. Det er selvfølgelig i sig selv uacceptabelt, at teleselskaberne læser kunders sms-beskeder uden at få lov. Men sagen er også et symptom på den ønsketænkning, der præger danske myndigheders tilgang til kunstig intelligens.
Et af de mest kendte eksempler er miseren fra jobcentrene, hvor otte års AI-eksperimenter for at få ledige danskere hurtigere i arbejde blev lagt endegyldigt i graven i 2023. Sagsbehandlerne kunne ikke bruge algoritmernes anbefalinger til noget, og selv hvis de havde virket, var det ikke muligt at få systemerne til at være effektive, uden at profilere danske borgere på direkte ulovlig vis.
Otte års udvikling og millioner af skattekroner kunne være sparet, hvis man havde undersøgt de helt basale forudsætninger for at løse opgaven med kunstig intelligens, inden man håbefuldt gik teknologi-planken ud.
Artiklen fortsætter efter annoncen
Samme tendens gør sig gældende i regeringens bombastiske udmeldinger om, hvordan man vil løse de kommende års mangel på arbejdskraft i den offentlige sektor. Kunstig intelligens skal spare arbejdskraft svarende til 30.000 fuldtidsstillinger i løbet af de næste 10 år. Problem solved.
Men som Ingeniøren har afdækket, er der indtil videre kun sparet knap 40 årsværk på tværs af alle 98 kommuner, og de 30.000 årsværk er groft sagt bare et tal, man har fundet på. De er ikke funderet i en undersøgelse af, hvad der realistisk set kan lade sig gøre.
Og så er vi tilbage ved afsløringen af teleselskabernes SMS-filter. For selvom det er besnærende at løse et alvorligt samfundsproblem som SMS-svindel ved at drysse noget kunstig intelligens ud over det, så burde det fra starten have været åbenlyst, at det ikke kunne lade sig gøre.
Konkret skal der naturligvis mennesker til at tjekke, om SMS-filteret nu også kun stopper ondsindede beskeder. Og der skal mennesker til at skrue på systemet, når svindlerne skruer på deres metoder. Alligevel har ingen tilsyneladende stillet det åbenlyse spørgsmål, da teleselskaberne beder om grønt lyst til at købe en AI-der uden menneskelig indblanding kan sortere svindel fra legitim kommunikation: Hvordan kan det lade sig gøre?
Den 100 procent selvkørende, 100 procent selvlærende maskine, der løser vores problemer, uden at vi skal røre en finger, er indtil videre en utopi/dystopi, amerikanske tech-giganter sælger for at banke deres aktiekurser i vejret. Det er svært ikke at blive bekymret for, om danske myndigheder køber for meget ind på Silicon Valleys fremtidsmusik. Og som vi ser i tilfældet med SMS-filteret, kan borgerne hurtigt komme til at betale for det.
