- Gladsaxebladet - https://www.gladsaxebladet.dk -

Åbenhed om algoritmer

Borgernes kontakt med det offentlige er i høj grad digitaliseret, og omfatter i stigende grad brug af kunstig intelligens, hvor store mængder data selv ”lærer” at analysere opgaver og finde løsninger, skriver Institut for Menneskerettigheder i en analyse om brugen af kunstig intelligens i det offentlige.

I en retsstat er det et grundlæggende princip, at borgere og offentlighed skal kunne kigge magthaverne i kortene og få indsigt i de processer, der ligger bag love og afgørelser. Men når dele af afgørelsen træffes af en algoritmisk profileringsmodel, bliver det princip udfordret, konkluderer Institut for Menneskerettigheder i analysen, hvor Gladsaxe Kommune bruges som eksempel.

– Profileringsmodeller er allerede under udvikling og i brug i det offentlige Danmark. Blandt andet har Styrelsen for Arbejdsmarked og Rekruttering udviklet og implementeret en model til forudsigelse af langtidsledighed blandt nyledige, og Gladsaxe Kommune udviklede i 2018 – men implementerede ikke – en model til forudsigelse af mistrivsel i børnefamilier, skriver Institut for Menneskerettigheder i analysen.

– I begge tilfælde behandler modellen udvalgte data henholdsvis om nyledige og om børnefamilier, og modellens resultater kan få betydning for den indsats, der igangsættes over for de identificerede ledige og børnefamilier, tilføjer man.

Institut for Menneskerettigheder anbefaler generelt at alle offentlige myndigheder i Danmark, der anvender profileringsmodeller rettet mod borgere, forpligtes til at oplyse borgere om dette og ved afgørelser informere borgere om, hvordan modellen er nået frem til sine resultater.

Algoritmer til fri afbenyttelse
I november skrev Gladsaxe Bladet om et nyt studie fra Københavns Universitet, der afdækkede udfordringer for etisk og ansvarlig design af algoritmer til jobcenterområdet, og som også brugte Gladsaxe som case.

Forskningsprojektet er et samarbejde med flere kommuner, som har været interesserede i at forstå både muligheder og begrænsninger for kunstig intelligens.

– Gladsaxe kom med fordi KMD er med i projektet og Gladsaxe var en af de første til at anvende KMD’s jobcenterløsning Momentum – som ikke har implementeret beslutningsstøttealgoritmer netop fordi man ønsker at involvere sagsbehandlerne først, fortalte Thomas Hildebrandt, der er en af forskerne bag studiet, til Gladsaxe Bladet i november.