I løbet et halvt år er to it-programmet til at profilere ledige stoppet. STAR's eget program blev lukket, fordi det ikke blev brugt nok af sagsbehandlere. Et privat udviklet værktøj, Asta, har fået hård kritik af Datatilsynet. Tilsynet vurderer, at profileringen ikke kan ske selv med samtykke fra borgerne, fordi det ikke anses for at være et frivilligt, da de er i en udsat situation overfor myndighederne.

"Det er langt fra unikt, at algoritmer, der risikoprofilerer ledige, bliver lukket ned. Der er ofte modstand fra sagsbehandlere og borgere," siger Kristian Bloch Haug, Ph.d.-studerende ved Roskilde Universitet, til netmediet Radarmedia.

"Jeg tror, at de mange fejlslagne forsøg – aktualiseret af STAR-algoritmen – på kort sigt kan vise sig at være dødsstødet på en specifik brug af AI (kunstig intelligens, red.). Nemlig den der risikoprofilerer udsatte borgere," siger han.

Sagsbehandlere bruger ikke IT-vurdering

Det var netop modstanden fra sagsbehandlere i de enkelte kommuner, der fik beskæftigelsesminister Peter Hummelgaard (S) til at lukke STAR's eget profileringsværktøj i februar. Det fremgik af et brev, han sendte til Folketinget i februar. Her fremlagde ministeren resultaterne af en praksisundersøgelse af brugen af værktøjet.

STAR's værktøj består af et forberedelsesskema, som den arbejdsløse skal udfylde, og en statistisk opgørelse af personens fortid. Det er denne sidste del, der udgør profileringen og dermed risikovurderingen i forhold til at kunne komme i arbejde.

"Praksisundersøgelsen peger på, at sagsbehandlerne primært bruger forberedelsesskemaet og i mindre grad risikovurderingen i deres arbejde. Endvidere ser det ud til, at nogle borgere, der bruger værktøjet, ikke opfatter det som et frivilligt værktøj – selvom det er frivilligt. De er desuden ikke opmærksomme på, at der bliver foretaget en statistisk risikovurdering, på trods af at det står i velkomstteksten på Jobnet," skrev Peter Hummelgaard til Folketingets beskæftigelsesudvalg.

Han lukkede derfor - på STAR's anbefaling - den statistiske del af værktøjet, mens forberedelsesskemaet fortsat kan bruges i samtaler, der skal hjælpe den arbejdsløse i job.

Peter Hummelgaard oplyser i brevet til Folketinget, at han nu vil lave loven om, så der ikke i fremtiden skal laves en digital profilering af arbejdsløse i offentligt regi.

GDPR-problemer

Mens Datatilsynet i 2019 svarede i en høring, at Folketinget godt kunne vedtage en særlig adgang for STAR og kommunerne til at drive og bruge STAR's profileringsværktøj på baggrund af et afsnit i LAB-loven, udtalte tilsynet i slutningen af maj i år, at et privat udviklet profileringsværktøj fra it-virksomheden Schultz har udfordringer med at leve op til lovgivningen.

Det er især tilsagnet fra den arbejdsløse, der er problemet.

"Datatilsynet vurderer, at borgerens samtykke ikke kan danne grundlag for behandling i henhold til databeskyttelsesforordningen (GDPR), eftersom borgerens samtykke i den pågældende kontekst ikke kan anses for frivilligt," skriver tilsynet i sin afgørelse.

I alt 59 kommuner er brugere af har Schultz' it-system for jobcentre. Det er dog ikke klart, hvor mange kommuner, der har brugt profileringsværktøjet Asta. Lyngby-Taarbæk besluttede i foråret helt at droppe Asta. Også her var det sagsbehandlerne, der i en undersøgelse sagde fra, fortæller Ph.D-stipendiat ved Datalogisk Institut på Københavns Universitet, Asbjørn Ammitzbøll Flügge, til Radarmedia.

"Det er klart fra vores undersøgelse, at sagsbehandlerne havde svært ved at sætte algoritmens risikovurdering af den nyledige borger i kontekst. Fra sagsbehandlernes side var den ikke transparent. De kunne se, om en borger var i høj, middel eller lav risiko, men hvorfor borgerne fik den konkrete risikovurdering, hvad algoritmen vægtede i sin vurdering, og hvor præcis den var, det kunne sagsbehandlerne ikke se," siger han.

Mod redaktionens afslutning har vi fået svar fra Schultz, der fortæller, at kun otte kommuner brugte profileringsværktøjet Asta i juni, da virksomheden henvendte sig til dem for at stoppe med at bruge programmet.

Læs også:

Schultz stopper brug af profileringsværktøj efter kritik fra Datatilsynet