KP: Inddrag udsatte borgere i udtænkningen af arbejdsgange med kunstig intelligens
Kunstig intelligens kan befrugte socialrådgiveres beslutninger, men det kræver nytænkning i måden teknologierne udvikles på. Vi skal forske mere i, hvordan algoritmer kan spille ind i praksis, hvad borgerne forventer og samtidigt udvikle socialrådgivernes indsigt og kompetencer på området, skriver Helle Birkholm Antczak, Frank Ebsen og Line Pape Thomsen.
![Kunstig intelligens har flere gange været forsøgt på børneområdet. Men de fejlslagne forsøg peger på, at teknologien ikke er praktisk tilstrækkeligt brugbare, skriver tre forskere fra Københavns Professionshøjskole.](https://www.altinget.dk/cdn-cgi/image/q=80,fit=crop,w=2560,f=jpeg/https://legacy.altinget.dk/images/article/258593/97057.jpg)
Helle Birkholm Antczak, Frank Ebsen og Line Pape Thomsen
Hhv. docent, docent og forskningsleder og lektor, Socialrådgiveruddannelsen, Københavns ProfessionshøjskoleKommunernes Landsforening har de seneste år søsat en række signaturprojekter med kunstig intelligens i de danske kommuner for at få erfaringer med anvendelse af teknologien. Målet er at blive klogere på teknologiens muligheder og begrænsninger.
Der er en forventning om, at kunstig intelligens vil kunne forbedre indsatsen, eliminere menneskelig bias, spare tid og dermed ressourcer.
Der er imidlertid ikke meget forskningsbaseret dansk viden om, hvorvidt kunstig intelligens kan leve op til disse mål. Derfor bør vi ikke kun afprøve teknologierne, men også forske i effekterne af at anvende kunstig intelligens på området for udsatte borgere.
Er der et uudnyttet potentiale i at anvende algoritmer og kunstig intelligens til at håndtere opgaver på socialområdet?
Det spørger Altinget Social om i en ny temadebat, hvor vi blandt andet dykker ned i fordele og ulemper ved at anvende kunstig intelligens til at løse opgaver på socialområdet.
Om temadebatter:
Altingets temadebatter deltager en række aktører, som skriver debatindlæg om aktuelle emner.
Alle indlæg er alene udtryk for skribenternes holdning, og indlæg i Altinget skal overholde de presseetiske regler.
Vil du bidrage til debatten om kunstig intelligens? Skriv til [email protected] for at høre om mulighederne.
Vi bør vide, hvordan kunstig intelligens anvendes i praksis, og hvilken betydning det har for de udsatte borgere, samt hvilke krav den digitale virkelighed stiller til velfærdsprofessionelle, der skal (sam)arbejde med nye ”kolleger” i form af systemer, der indeholder kunstig intelligens.
Vi skal vide hvad vi taler om
I debatten om kunstig intelligens bruges ordet algoritmer ofte i en bred og uspecifik betydning – inklusiv flere debatindlæg i Altinget. Den uklare brug af begrebet algoritmer er med til at forvirre debatten.
Man må nemlig på socialområdet skelne mellem administrative beslutningsalgoritmer og prædiktionsalgoritmer:
Administrative beslutningsalgoritmer samkører relevante data om den enkelte borger for eksempelvis at kunne afgøre, hvilke ydelser han eller hun er berettiget til. Disse algoritmer spiller især en rolle i automatisering af sagsbehandling – er en ansøger berettiget til kontanthjælp eller ikke; er en ansøger berettiget til sygedagpenge; hvornår skal der følges op på sagen og så videre.
Prædiktionsalgoritmer bruger statistiske analyser fra en større gruppe til at profilere individer ud fra bestemte karakteristika, og forudsige hvad der vi ske. Hvad er risikoen for at et barn, som vuggestuen er bekymret for, bliver anbragt udenfor hjemmet? Hvad er risikoen for at en nyledig borger bliver langtidsledig?
Fælles for begge algoritmetyper er, at de leverer beslutningsstøtte til de socialrådgivere, der behandler sagen, men det er kun i den sidste kategori, at kunstig intelligens indgår.
Udviklingen af kunstig intelligens skal tage udgangspunkt i, hvad der praktisk giver mening
Helle Birkholm Antczak, Frank Ebsen og Line Pape Thomsen
Hhv. docent, docent og forskningsleder og lektor, Socialrådgiveruddannelsen, Københavns Professionshøjskole
Uanset hvilken kategori algoritmen tilhører, vil socialrådgivernes arbejdsgange og arbejdsopgaver ændres. Et centralt spørgsmål er, om socialrådgiveren, i en tidsmæssig eller økonomisk presset forvaltning, reelt kan træffe en anden beslutning end den, beslutningsstøtten foreslår.
I praksis på børneområdet
Kunstig intelligens i form af prædiktive profileringsalgoritmer på børneområdet blev især kendt i Danmark med Gladsaxe Kommunes projekt om at finde frem til familier, hvis børn var udsatte.
Intentionen var at finde dem tidligere og eventuelt tilbyde familierne hjælp ved at træne en algoritme, der kunne udpege dem på baggrund af en række variable som forældres beskæftigelsesstatus og -historik, statsborgerskab, bopæl, barnets brug af tandpleje, underretninger, pasningsforhold og sprog.
Et andet kendt projekt på børneområdet er et underretningsprojekt ved Trygfondens Børneforskningscenter. Målet var, ud fra en række karakteristika, at prioritere de indkomne underretninger, så de mest akutte blev placeret øverst i bunken
For begge projekter gælder, at de ikke længere er aktuelle. Gladsaxeprojektet led af en række datamæssige og juridiske problemer. Underretningsprojektet har ikke spredt sig til andre kommuner, og det er usikkert om det kommer til at ske.
På den måder ligner de to projekter på Børneområdet en række af KL’s signaturprojekter på andre områder, som ikke er kommet i gang. Måske handler det om, at de er udtænkt af andre end de udsatte borgere og de medarbejdere, de møder? Med andre ord er de ikke er praktisk tilstrækkeligt brugbare.
Skønnet og kunstig intelligens
Vi vil ikke udelukke, at kunstig intelligens kan befrugte de fagprofessionelles skøn, vel at mærke hvis teknologien ikke kommer til at overtrumfe den professionelles dømmekraft.
Måske handler det om, at de er udtænkt af andre end de udsatte borgere og de medarbejdere, de møder?
Helle Birkholm Antczak, Frank Ebsen og Line Pape Thomsen
Hhv. docent, docent og forskningsleder og lektor, Socialrådgiveruddannelsen, Københavns Professionshøjskole
Indførelsen af algoritmisk baserede beslutningsstøttesystemer i sagsbehandlingen kræver imidlertid en række (nye) kompetencer hos socialrådgiverne. På Socialrådgiveruddanelsen lærer vi dem gerne:
- Teknologiforståelse: Hvis der indgår beslutningsstøtte, skal socialrådgivere være i stand til at forstå, hvordan og efter hvilke principper, systemet er kommet frem til sit forslag til handling eller vurdering. Det vil især blive en udfordring, hvis det drejer sig om komplekse profileringsalgoritmer, eventuelt med indbygget machine learning.
- Kritisk refleksion over data og digitale løsninger: Socialrådgivere skal kunne forholde sig refleksivt og kritisk til både systemer og data. Denne kompetence indebærer en (kritisk) vurdering af, hvad en teknologis muligheder og begrænsninger er. For eksempel om algoritmen er trænet på historiske data, hvis aktualitet er begrænset på grund af nye love eller problematikker.
- At kunne mediere mellem borger og system: Socialrådgivere skal kunne formidle det, et system er kommet frem til. Socialrådgiveren skal kunne forklare borgeren, hvordan systemet er kommet frem til sit resultat, og gøre rede for, hvordan hun selv lader resultatet indgå i sit skøn og sin socialfaglige vurdering. Hun skal så lade disse to vurderinger indgå i en transparent og meningsfuld dialog med borgerne om, hvordan de selv vurderer deres situation, og hvilken hjælp, der er brug for.
Vores pointe er, at udviklingen af kunstig intelligens skal tage udgangspunkt i, hvad der praktisk giver mening, når der skal skabes bedre løsninger for udsatte borgere.
Når praksis opgiver at anvende dyrt udviklede, kunstigt intelligente løsninger, er det et signal om, at de er udviklet på et uhensigtsmæssigt grundlag. Den direkte involvering af udsatte borgere og de som skal bruge kunstig intelligens, bør være et krav.
Yderligere bør forskning i praksis sikre, at socialrådgivere og andre medarbejdere kan undervises på det rigtige grundlag. Troen flytter bjerge, men det er ikke altid Muhammed kommer.
Få GRATIS nyheder fra Danmarks største politiske redaktion
![](https://www.altinget.dk/cdn-cgi/image/q=80,fit=crop,w=64/https://legacy.altinget.dk/images/person/12221/frank-cloyd-ebsen.jpg)