Fra februar kan oplysninger om lediges helbred, adfærd og CPR-nummer blive brugt til at udvikle AI-systemer, der skal effektivisere sagsbehandlingen på beskæftigelsesområdet.

Det skriver NB-Kommune.

"Det her kan udvikle sig til et monster af kompleksitet," siger lektor og ph.d. ved Juridisk Institut på Syddansk Universitet, Jøren Ullits.

Det er Styrelsen for Arbejdsmarked og Rekruttering (STAR), der får mulighed for at indsamle følsomme persondata til "styrelsens udvikling, idriftsættelse og anvendelse m.v. af kunstig intelligens eller lignende digitale løsninger".

Styrelsen kan bruge personoplysningerne til at profilere borgere for blandt andet at forbedre matchet mellem jobannoncer og den lediges kompetencer. Men det er bekymrende at profilere borgere ud fra følsomme persondata, mener professor ved for teknologi, ledelse og økonomi hos DTU.

"Det er vidtgående, hvis en AI skal ind og profilere borgere ud fra personfølsomme data," siger han.

Det er hensigten, at kunstig intelligens skal understøtte sagsbehandlingen, når kommuner skal finde det rette tilbud til ledige borgere, fremgår det af lovteksten. Men det er ikke et krav, at kommunerne tager den kunstige intelligens i brug, understreger STAR.

Men ifølge Jøren Ullits er der risiko for, at der særligt i mindre kommuner vil være sagsbehandlere, der blåstempler algoritmers vurdering af borgere, fordi der ikke er ansatte nok til de sager, der skal ekspederes.

“Det vil sige, at mennesket bliver undtagelsen, og systemet hovedreglen," siger han.

Maskine før menneske

Kommunerne er ikke med til at udvikle AI-løsningen hos STAR. Derfor har kommunale sagsbehandlere ikke nok indsigt i, hvordan den kunstige intelligens virker, mener formand for HK Kommunal, Lene Roed.

“Hvis den medarbejder, der skal vurdere algoritmens forslag, ikke kan gennemskue logikken bag, så er vi nervøse for, at sagsbehandlingen bliver for automatiseret," siger hun.

STAR afviser, at sagsbehandlingen bliver fuldt automatiseret med AI og understreger, at kommuner ifølge den nye lov ikke må "anvende AI, herunder profilering, til at træffe automatiske afgørelser."

Men for flere sagsbehandlere vil det være svært at sige algoritmen imod, vurderer Anders Kristian Munk.

"Selvom man officielt siger, at den faglige medarbejder træffer beslutningen, så vil algoritmerne i nogle tilfælde få magten i praksis, fordi det er mere besværligt at stille spørgsmålstegn ved algoritmen end ikke at gøre det,” siger DTU-professoren.

"Det har vi set gå galt før"

Der er god grund til at være bekymret for, at AI skal anvendes til at profilere borgere, mener Anders Kristian Munk.

"Du kan ikke med god samvittighed overlade kunstig intelligens til at profilere borgere og derefter træffe beslutninger uden at sikre dig, at mennesker har det sidste ord. Det har vi set gå galt før,” siger han.

For det er umuligt at undgå forskelsbehandling fra algoritmer, og det er kun mennesker, der kan opfange disse bias, fortæller Anders Kristian Munk.

"Mennesker er også biased, men de skal også stå til ansvar for deres beslutninger. Problemet med en algoritme er, at den ikke kan stilles til ansvar, og at den tænker ikke over sine egne bias,” siger han.

Uklarheder om ansvar

Hvis STAR står for at udvikle AI-løsningen, som kommunerne kan anvende, kan det skabe usikkerhed om, hvem der har ansvaret for en afgørelse, vurderer Jøren Ullits.

"Ansvaret følger den, der har styringen. På den måde kan der opstå et fælles ansvar mellem STAR og kommunerne," siger han.

Den fordeling af ansvar bekymrer HK Kommunals formand.

"Det skaber uklarhed. Som borger har man ret til at vide, hvornår kunstig intelligens har haft indflydelse på en afgørelse. Og den viden har man ikke i kommunerne, når det alene er STAR, der udvikler systemet," siger Lene Roed.

STAR afviser udlægningen fra HK Kommunal.

"STAR udvikler ikke en AI-løsning/-system, som kommunerne pålægges at anvende i deres sagsbehandling. Der bliver således ikke tale om en situation som beskrevet, hvor kommunernes sagsbehandling eller en afgørelse beror på et system i STAR, eller hvor der kan være tvivl om dataansvaret", lyder det i et skriftligt svar, der fortsætter:

"Bekendtgørelserne har været i høring hos Datatilsynet, der ikke har haft bemærkninger, men derimod konstateret, at de foreslåede regler er i overensstemmelse med databeskyttelsesreglerne."