Medlemmer i Dataetisk Råd: Myndighederne har ikke taget stilling til centrale spørgsmål om kunstig intelligens

Det er vores opfordring, at offentlige myndigheder hurtigst muligt bør indføre den praksis. Både for at leve op til den nye lovgivning, men også for at sikre at borgere og medarbejdere får den bedst mulige hjælp og behandling.

Risikovurderinger viser ofte også, om der skal tages særlige forholdsregler for at beskytte borgernes rettigheder og data.

Den såkaldte Gladsaxe-model var et eksempel på samkøring af data, der ikke levede op til GDPR og dataetiske hensyn og fik meget kritik.

Inddrag relevante aktører

Over sommeren har kørt en debat, hvor digitaliseringsminister, Marie Bjerre (V), har peget på, at kunstig intelligens som udgangspunkt kan anvendes på alle områder; således også ved tvangsanbringelser af børn.

På den anden side mener blandt andet Dansk Socialrådgiverforening, at det er så indgribende en afgørelse, at kunstig intelligens ikke skal bruges her.

Det er en interessant politisk diskussion, men fra et data-etisk perspektiv er den væsentligste pointe, at relevante aktører skal inddrages i beslutninger om, hvornår der kan bruges AI.

Faglige organisationer, borgere, medarbejdere, patientorganisationer med mere skal være med til at vurdere, hvornår det er forsvarligt at bruge systemerne.

Vores håb er derfor også, at den snart kommende AI Taskforce vil være inddragende, og sammensat med relevante aktører og dataetiske profiler.

Bias og risiko for monopol

Systemer der bygger på generativ AI, for eksempel Chat GPT, kan ikke vurdere om informationer er sande eller falske, og kan derfor producere indhold, som er faktuelt forkert, såkaldte hallucinationer.

Systemer der bygger på generativ AI, for eksempel Chat GPT, kan ikke vurdere om informationer er sande eller falske. 

otte medlemmer af Dataetisk Råd

Derfor skal indhold altid kvalitetssikres af fagpersoner og tilpasses den konkrete kontekst og kultur.

Der er også en stor risiko for at AI-Systemer reproducerer eller skaber bias i forhold til for eksempel forskellige køn, etniciteter og professioner, eller indhold til bestemte grupper af borgere. Det skaber risiko for diskrimination.

Derfor er det vigtigt at implementere processer til kontrol mod bias både i datainput, det vil sige datakilder, datasæt og variable i algoritmen, og i dataoutput, for eksempel information, analyser, profileringer og forslag.

Det læner sig igen ind i føromtalte vurdering af, hvornår en risiko er unødvendig stor. Og understreger, at der fortsat er brug for faglige medarbejdere, der kan sikre kvaliteten, og at dataanvendelsen sker korrekt.

Det kræver store investeringer at udvikle de mest avancerede modeller for generativ AI, og markedet er præget af store spillere, de såkaldte tech-giganter.

Vi har allerede set en række eksempler, senest Chromebook-sagen, hvor det giver problemer at lægge vores digitale infrastruktur i hænderne på en enkelt virksomhed.

Derfor bør lovgivere og offentlige indkøbere fremtidssikre vores systemer bredere mod monopoldannelse, så den offentlige sektors AI-systemer og data ikke kun bliver kontrolleret af de allerstørste og hurtigste leverandører.

Det er ikke en let opgave, men en væsentlig udfordring at være opmærksom på. Og uanset om det er store, små eller offentlige leverandører, skal hensynet til sikkerhed og dataetik altid stå centralt.

Hvor meget kan og skal der spares? 

Der er allerede lavet mange konsulentrapporter om, hvor mange millioner og årsværk det offentlige kan spare på at bruge AI-systemer. Og når kommunerne kæmper med nedskæringer og mangel på medarbejdere, øger det interessen for kunstig intelligens.

Nogle af de forkromede analyser bør nok tages med et gran salt, erfaringer fra blandt andet Skat viser, at det er klogt at få systemerne op og køre, før man regner med at opgaven kan løses med færre medarbejdere.

Men naturligvis er det interessant at spare tid ved for eksempel at skrive referater og standard mails med generativ AI. Men det store spørgsmål er så; åbner det for mere kontakt, rådgivning og behandling til borgerne, eller forsvinder AI-gevinster i sparerunderne så færre mennesker skal gøre det samme?

Det er politiske og ledelsesmæssige beslutninger, men konteksten har betydning for, hvordan systemer med kunstig intelligens bliver brugt og modtaget. At sparekravene fylder hos både kommunalpolitikere og sundhedspersonale fremgik tydeligt af debatterne på årets Folkemøde.

Centralt bør det altid være, at offentlige myndigheder overvejer hvilke opgaver, der egner sig til at bruge AI-systemer og hvilke, der løses bedre af medarbejdere, og hvordan en AI-løsning påvirker borgeren i den konkrete situation.

Det er også et godt afsæt for, at borgere og medarbejdere bliver glade for kunstig intelligens, at det er en udvikling, vi selv beslutter og er trygge ved.