AI i offentlige fagsystemer: Sikkerhed, faglighed og kontrol

AI flytter ind i de offentlige fagsystemer

Kunsten at åbne et chatvindue for at få hjælp til tekst, opsummering eller idéer er ikke længere det centrale spørgsmål om kunstig intelligens i den offentlige sektor. Teknologien er på vej ind i de fagsystemer, der understøtter centrale offentlige opgaver — fra dokumentation og journalisering til digitale selvbetjeningsløsninger.

Når AI integreres i de systemer, hvor medarbejdere løser deres daglige opgaver, skærpes kravene til ansvar, databehandling, gennemsigtighed og faglig kontrol. Spørgsmålene om, hvorvidt medarbejderen bevare kontrollen, om resultaterne kan forklares og om data behandles sikkert, gælder ikke kun fagpersoner og it-chefer, men også leverandørerne, der udvikler næste generation af fagsystemer.

Iterativ udvikling i stedet for flagskibsprojekter

På SKI's Solution Summit i foråret præsenterede Ole Vilster, Head of Product Management i EG Digital Welfare, erfaringer fra arbejdet med at integrere AI i offentlige fagsystemer. Hans centrale budskab pegede mod et mindre teknologidrevet udgangspunkt, end mange forventer.

"Store, tunge AI-projekter lykkes sjældent. De første 'hurra for AI'-flagskibsprojekter fejlede. De var for lange, kunde-feedback kom for sent, og de var ikke tæt nok på fagligheden. Løsninger skal udvikles i tæt dialog med brugerne, og i små, kontrollerede skridt. Vi tester hurtigt, bygger prototyper, afprøver i praksis og skalerer det, der virker." — Ole Vilster, Head of Product Management i EG Digital Welfare

AI skaber ifølge Vilster først værdi, når teknologien løser et konkret problem i en eksisterende arbejdsgang — ikke når den lægges ovenpå som et isoleret værktøj.

"AI-funktionalitet udvikles i partnerskab med de faglige brugere, så vi sikrer forankring i de daglige arbejdsgange. Det lyder måske mindre visionært end store AI-projekter og flerårige satsninger. Til gengæld øger det chancen for, at løsningen faktisk bliver brugt." — Ole Vilster

Sikkerhed og jura er den nye flaskehals

Når AI flytter ind i fagsystemerne, skifter udfordringen fra rena udvikling til sikkerhed, juridisk compliance og godkendelsesprocesser.

"Flaskehalsen er ikke længere udvikling, men i stigende grad sikkerhed, jura og godkendelsesprocesser. AI-systemer udvikler sig løbende. De håndterer data, indgår i arbejdsgange og bidrager til beslutningsgrundlag. Derfor bliver spørgsmål om dokumentation, risikovurdering og ansvar en del af selve løsningen, og ikke noget, man bare kan håndtere bagefter." — Ole Vilster

AI støtter fagligheden — den erstatter den ikke

Når AI bliver en del af dokumentation, journalisering og sagsbehandling, opstår et centralt spørgsmål om grænsen mellem hjælp og automatisering. Vilster er entydig i sin holdning:

"AI'en må gerne strukturere tekst, men ikke tilføje nye oplysninger. Den skal hjælpe fagpersoner med at formulere sig bedre, ikke tænke for dem."

Dokumentation i fagsystemer indgår i beslutninger, opfølgning og borgerforløb. Medarbejderen skal derfor fortsat eje den faglige vurdering og kunne stå på mål for indholdet.

"Tilgangen handler i bund og grund om ejerskab. Medarbejderen skal kunne forstå resultatet, stå inde for det og vide, hvad der er menneskets vurdering, og hvad der er teknologiens bidrag." — Ole Vilster

Nye krav til offentlige it-aftaler

AI fylder i stigende grad i dialogen mellem offentlige ordregivere og leverandører. Det er ikke nok at spørge, om en løsning indeholder AI — det afgørende er, hvordan teknologien påvirker medarbejdernes arbejde og ansvar.

"Giver det medarbejderen mere ejerskab eller mindre? Er AI indlejret i workflowet, eller er det generisk funktionalitet, der er lagt ovenpå? Kan AI-funktionen slås fra, og kan medarbejderen altid forklare og stå inde for det, der er dokumenteret? Den type spørgsmål flytter fokus fra teknologi til anvendelse. Fra funktioner til konsekvenser." — Ole Vilster

Udviklingen afspejles i arbejdet med fremtidige offentlige it-aftaler, hvor spørgsmålet ikke længere er, om AI bliver en del af løsningerne, men hvordan den håndteres på en ansvarlig og gennemsigtig måde.

Rammeaftale 02.19 Fagsystemer (2027) kvalificerer AI-krav

AI er et af de områder, der afklares i udbuddet af rammeaftale 02.19 Fagsystemer (2027). I arbejdet med aftalen kvalificeres krav, use cases, sikkerhedsbestemmelser og kontraktgrundlag løbende gennem dialog med kunder, markedet og eksperter.

Målet er at skabe klarhed om:

• Hvordan AI anvendes i løsningerne
• Hvor og hvordan data behandles
• Hvilke sikkerheds- og compliancekrav løsningerne skal leve op til
• Hvordan offentlige organisationer kan gennemskue de teknologier, de køber
• Hvordan ændringer i AI-teknologi, funktionalitet og prismodeller håndteres over tid

Aftalens rammer kvalificeres, så de afspejler en virkelighed, hvor AI i stigende grad er en integreret del af fagsystemerne. Det gælder spørgsmål om sikkerhed, gennemsigtighed, ansvar, databehandling og leverandørernes AI-funktionalitet.

Gå til udbudssiden for 02.19 Fagsystemer (2027)

"AI handler i sidste ende ikke om teknologi, men om værdiskabelse, faglighed og kontrol." — Ole Vilster, Head of Product Management i EG Digital Welfare