Ph.d.-studerende: Kan vi lade være med at anvende algoritmer på udsatte børn?

Sager om udsatte børns mistrivsel stod for nogle år siden i kø i medierne. Hvem husker ikke de mest ekstreme sager fra Tønder, Rebild og Brønderslev?

Ofte fik passive kommuner tildelt skurkerollen, og tidlig indsats blev mantraet, der bredte sig i kommunelandskabet.

Medier, meningsdannere og organisationer kappedes om at lægge afstand til Gladsaxes idé, der blev sammenlignet med overvågning fra Kina og DDR

Kenneth Kristensen
Ph.d.-studerende, Syddansk Universitet og tidligere kommunaldirektør

Alligevel var kritikken skarp, da offentligheden fik kendskab til Gladsaxe Kommunes idé om at anvende algoritmer i tidlig opsporing af udsatte børn – ”Gladsaxemodellen”.

Medier, meningsdannere og organisationer kappedes om at lægge afstand til Gladsaxes idé, der blev sammenlignet med overvågning fra Kina og DDR. De eneste som stort set ikke deltog i debatten, var politikerne. 

Det kan undre, at hverken nationale eller lokale politikere var særligt aktive i så principiel en debat, så lad os starte med begyndelsen af historien, som jeg har beskrevet i en nylig forskningsartikel i tidsskriftet ”Samfundslederskab i Skandinavien” – Hvorfor Gladsaxemodellen fejlede – om anvendelse af algoritmer på udsatte børn.

Databaseret projekt for tidlig opsporing

I Gladsaxe Kommune bemærkede forvaltningen i 2017, at de fleste børn med mistrivsel først blev identificeret som 8-12-årige, selvom sagsgennemgange viste, at signalerne på mistrivsel var til stede langt tidligere. Blot var data spredt på kommunens mange afdelinger, som familieafdeling, sundhedspleje, daginstitution, skole og jobcenter.

Derfor iværksatte kommunen ”Strategi for tidlig indsats - Familier der lykkes” med en række analoge indsatser for tidlig opsporing ved fagmedarbejdere, for eksempel opsporing i dagtilbud.

Desuden blev ideen til projekt databaseret tidlig opsporing, DTO, født, og efter en politisk godkendelse blev en ansøgning om at samkøre data i et frikommuneprojekt sendt til ministeriet.

Der var ikke tale om en pointmodel, som hævdet i medierne, men at benytte metoden ”prædiktivt beslutningstræ” til at opdele grupperinger af 0-6-årige børn i Gladsaxe og til statistisk at beregne risikoen for ”udsathed” på baggrund af 44 potentielle risikoindikatorer, der var fremkommet ved gennemgang af forskningsartikler og tidligere sager.

Projektidéen blev aldrig færdigudviklet, men tanken var at lade fagmedarbejdere screene data som beslutningsstøtte.

Ved bekymring skulle fagmedarbejdere kontakte familier i risiko for udsathed for samtykke til en egentlig sagsbehandling, og derfra ville man tilbyde et samarbejde med familien, hvis sagsbehandlingen gav anledning til fortsat bekymring. Hvis familien ikke ønskede at give samtykke til sagsbehandling eller indgå i et samarbejde, så skulle sagen slettes.

Mistillid førte til lukning

På baggrund af mediedebatten smuldrede opbakningen til Gladsaxes projektidé i Folketinget.

I december 2018 blev tre PC’ere med CPR-numre stjålet fra Gladsaxe Rådhus, og en ny mediedebat udspillede sig.

Selvom disse CPR-data intet havde at gøre med projekt DTO, så blev det tydeligt for Gladsaxe Kommune, at videreudviklingen af projekt DTO måtte lukkes for at fastholde borgernes tillid.

I stedet blev mange ressourcer anvendt på at forhindre datalæk, så borgerne kunne føle sig trygge ved Gladsaxe Kommunes opbevaring og anvendelse af borgernes data.

Mangel på politisk viden og involvering

Forløbet og interviews med de involverede politikere, chefer og medarbejdere i Gladsaxe Kommune viser flere punkter, som andre offentlige organisationer bør være opmærksomme på ved overvejelser om anvendelse af algoritmer. Her fremhæves tre.

Politikerne i Gladsaxe godkendte formelt ansøgningen om frikommuneforsøget projekt DTO, men var ikke tæt involveret

Kenneth Kristensen
Ph.d.-studerende, Syddansk Universitet og tidligere kommunaldirektør

For det første så godkendte politikerne i Gladsaxe formelt ansøgningen om frikommuneforsøget projekt DTO, men de var ikke tæt involveret.

For det andet erkender politikerne, at de nok hæftede sig mest ved formålet om at forebygge mistrivsel hos børn og ikke reelt kunne gennemskue projektmetoden og dets konsekvenser.

Derfor var der heller ikke en aktiv politisk stillingtagen til de etiske dilemmaer imellem muligheden for opsporing af udsatte børn og risikoen for en oplevelse af overvågning medvidere, og politikerne følte sig heller ikke klædt på til at forsvare og forklare prioriteringerne i projekt DTO, da debatten brød ud i medierne.  

For det tredje var projektidéen ifølge forvaltningen i Gladsaxe på så tidligt et stadie, at der ikke var noget grundlag for at inddrage eksterne interessenter. Det betød, at kommunen havde input fra sine fagmedarbejdere men ikke fra børneorganisationer medvidere til metodeudviklingen, og samtidig at kommunen kom til stå næsten alene i mediedebatten.

Den dobbelte etik

I bakspejlet er det let at finde både etiske, juridiske, tekniske og processuelle kritikpunkter i forhold til projekt DTO.

Man bør dog huske på, at erfaringerne var små, fordi Gladsaxe var blandt de allerførste offentlige organisationer til at ”bevæge sig ud på isen” i forhold til at afprøve mulighederne i algoritmer.

Desuden viste erfaringerne, at det også kunne have konsekvenser, hvis man ikke brugte tilgængelige data i kommunen.

Hvordan skulle man efterfølgende forklare det for de børn og andre, at man havde viden i kommunen, som pegede på alvorlig mistrivsel, men at man ikke valgte at samle og bruge denne viden?

Det dilemma, er hvad den daværende kommunaldirektør ved flere lejligheder har kaldt ”den dobbelte etik”.

Til gengæld viser Gladsaxe-forløbet, at det i et demokratisk perspektiv er afgørende at få politikerne helt tæt på processen ved overvejelser om at anvende nye teknologier, så det bliver politikerne, der afvejer etiske og andre dilemmaer.

Det kan dog være ganske vanskeligt at skelne mellem, hvad der er det politisk-strategisk niveau, og hvad der er det administrative-tekniske niveau. Eksempelvis er selve den statistiske modeludvikling næppe en politisk opgave, men det kan godt være, at valget af risikoindikatorer i modellen er en politisk opgave.

Politikerne skal klædes bedre på

Forudsætningen for en mere aktiv politisk rolle er naturligvis, at politikerne får den fornødne indsigt i teknologiens muligheder, begrænsninger og eksempelvis risikoen for ”falsk positive”, samt konsekvenser for borgerne.

Det kræver nye processer til at supplere de udvalgsmøder, hvor beslutninger træffes i en kommune – for eksempel teknologi-fremvisninger, simulationer, ekspertinterviews, borgervurderinger medvidere.

Borgernes tillid er den mest dyrebare kapital for en offentlig organisation

Kenneth Kristensen
Ph.d.-studerende, Syddansk Universitet og tidligere kommunaldirektør

Uanset valget af tilgang til politikerinvolvering, så er det sigende, at Gladsaxemodellen fejlede, fordi man var bekymret for netop at miste borgernes tillid.

Borgernes tillid er den mest dyrebare kapital for en offentlig organisation og noget af det, som kendetegner dansk offentlig forvaltning i forhold til andre lande.

Fremover er der nok af komplekse og dilemmafyldte velfærdsproblemer, eksempelvis flere børn med diagnoser, flere plejekrævende ældre, arbejdskraft til velfærdsfagene og klimaudfordringen for blot at nævne nogle.

Det er vanskeligt at forestille sig, at det offentlige Danmark kan løse disse problemer helt uden at anvende data og teknologi på nye måder.  

Det afgørende spørgsmål er derfor ikke, om vi skal bruge data og teknologi, men hvordan vi får politikerne engageret og klædt på til at træffe de nødvendige etiske valg, og hvordan vi samtidig bevarer borgernes tillid.