Debat

Dataetisk Råd: Tilsynet med kunstig intelligens skal være en del af Datatilsynet

Tilsynet med anvendelsen af kunstig intelligens bør bygge på uafhængighed, erfaring og ekspertise. Hvis erhvervsliv, kommunerne eller andre mener, at der er for mange juridiske forhindringer for at udnytte ny teknologi, er det lovgivningen der skal kritiseres – ikke tilsynets håndhævelse af gældende regler, skriver Johan Busse, formand for Dataetisk Råd.

Der diskuteres, om tilsynet med AI skal placeres i Digitaliseringsstyrelsen eller Datatilsynet. At
Digitaliseringsstyrelsen som en ikke-uafhængig statslig styrelse overhovedet
kommer på tale, vækker undren, skriver Johan Busse.
Der diskuteres, om tilsynet med AI skal placeres i Digitaliseringsstyrelsen eller Datatilsynet. At Digitaliseringsstyrelsen som en ikke-uafhængig statslig styrelse overhovedet kommer på tale, vækker undren, skriver Johan Busse.Foto: Eduardo Parra/AP/Ritzau Scanpix
Johan Busse
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Kunstig intelligens er en ny teknologi med potentiale til at effektivisere og løse mange af både nutidens problemer og fremtidens udfordringer. Derfor er ansvarlig anvendelse af og deraf følgende tillid til kunstig intelligens helt afgørende.

EU's kommende forordning om kunstig intelligens, AI ACT, forventes at sætte krav om udpegning af nationale tilsyn.

Dataetisk Råd mener, at det bør være muligt at overvåge og udøve et effektivt og troværdigt tilsyn med anvendelse af kunstig intelligens, så utilsigtede fejl og negative konsekvenser kan undgås og tilliden til systemerne og teknologien bevares.

Falske modsætninger

Det overvejes i øjeblikket, hvor man skal placere tilsynet med den europæiske forordning om AI.

Valget står øjensynligt mellem Datatilsynet og Digitaliseringsstyrelsen. At Digitaliseringsstyrelsen som en ikke-uafhængig statslig styrelse overhovedet kommer på tale, vækker undren.

Forestiller man sig fremover, at et AI-tilsyn under Digitaliseringsstyrelsen skal udtale kritik af styrelsen selv?

Johan Busse
Formand, Dataetisk Råd

Hvis man skal tro fortalerne for at placere tilsynet i Digitaliseringsstyrelsen eller Erhvervsstyrelsen, som også har været nævnt, står valget mellem et tilsyn, som er positivt indstillet og åben over for AI og et tilsyn, som ikke er.  

Professor Jan Damsgaard fra CBS taler direkte om Datatilsynets ”GDPR-regime” og om, at Digitaliseringsstyrelsen har en mere ”konstruktiv tilgang”.

Mit ærinde er at advare imod denne sære og falske modsætning. Det er slet ikke relevant at tale om sådanne modpoler i forbindelse med et tilsyn. Et tilsyn skal hverken være for eller imod noget som helst andet end det regelsæt, som tilsynet er sat til at forvalte.

Selvfølgelig skal et tilsyn se sagen fra begge sider, respektere de uklarheder i reglerne, som efterlader rum for udvikling, og hjælpe og vejlede, så teknologien kommer samfundet til gavn.

Men det skal ske inden for lovens rammer. Alt andet er ikke tilsyn, men allerhøjst en moderator. 

Datatilsynet gør sit arbejde

Datatilsynets omfattende vejledningsindsats er et godt eksempel på et tilsyn som netop ikke bare sætter grænser, men gør det lettere at handle inden for de grænser, som loven giver. Men derudover håndhæver Datatilsynet naturligvis bare den regulering, som tilsynet er sat til at håndhæve. Hverken mere eller mindre.

Hvis erhvervsliv, KL eller andre mener, at der er for mange juridiske forhindringer for at udnytte ny teknologi, er det reguleringen de bør adressere, ikke Datatilsynets håndhævelse af den. Det er en kritik, som bør rettes imod de demokratiske organer, ikke imod dem, der forvalter eller håndhæver dem.

På samme måde, skal utilfredshed med niveauet af velfærd ikke rettes som en kritik af den kommunale sagsbehandler, men imod lovgiver, som har fastsat niveauet.

Læs også

Dataetisk Råd har derimod peget på, at det bør være muligt at overvåge og udøve et effektivt og troværdigt tilsyn med anvendelse af kunstig intelligens, så uønskede eller utilsigtede fejl og negative konsekvenser kan undgås, og tilliden til systemerne bevares.

Rådet har derfor argumenteret for, at tilsynet bør placeres ud fra hensynene til uafhængighed, erfaring og ekspertise samt koordination med eksisterende tilsyn. Dette peger ret entydigt i retning af en placering under Datatilsynet. Rådet for Digital Sikkerhed, Forbrugerrådet Tænk og Danske Advokater har også argumenteret for, at Datatilsynet bør huse det nye tilsyn.

Neutralitet er centralt

Når Dataetisk Råd anbefaler, at AI-tilsynet placeres i Datatilsynet, er det ikke en kritik af Digitaliseringsstyrelsen. Styrelsen har i høj grad drevet den digitale udvikling i det offentlige Danmark, og det ligger i styrelsens dna, at digitalisering og ny teknologi per definition er godt.

Man ville jo heller aldrig foreslå, at ombudsmanden lægges ind under Økonomistyrelsen, eller at Ankestyrelsen varetages af kommunerne

Johan Busse
Formand, Dataetisk Råd

Det er det helt rigtige mindset ud fra styrelsens funktionsbeskrivelse, og styrelsen har indfriet forventningerne.

Men udfordringerne ved styrelsens fokus kan for eksempel ses i den aktuelle sag, hvor styrelsen får kritik for sin omgang med danskernes data (kørekortappen og det digitale sundhedskort), netop fordi man med sin temposættende opgavebeskrivelse satte effektivitet højere end privatliv, datasikkerhed og persondatabeskyttelse.

I sagen om kørekortappen er kritikken udtalt af tilsynet på området, Datatilsynet. Forestiller man sig fremover, at et AI-tilsyn under Digitaliseringsstyrelsen skal udtale kritik af styrelsen selv? Og vi har endnu til gode at se konkrete eksempler på, at Datatilsynet har håndhævet loven for stramt.

Et tilsyn skal være neutralt og alene tage afsæt i reguleringen, som udmønter en demokratisk beslutning om, hvad man må og ikke må.

Eklatant dårlig idé

Jeg har arbejdet ombudsmandsinstitutioner i mere end 25 år og ved, hvor afgørende det er at være reelt uafhængig, hvis man skal være troværdig og tillidsvækkende og kunne fungere på trods af det ydre pres. Jeg ved også, at det tager tid at opbygge de nødvendige kompetencer.

Samfundet er allerede presset nok på tilliden som det er

Johan Busse
Formand, Dataetisk Råd

Der er mange måder at modarbejde et tilsyn på, og det derfor lyder som en eklatant dårlig idé at udstyre AI-tilsynet med ambivalens i forhold til selve tilsynsrollen, at lade tilsynet være i strid med sig selv så at sige. Man ville jo heller aldrig foreslå, at ombudsmanden lægges ind under Økonomistyrelsen, eller at Ankestyrelsen varetages af kommunerne.

I øvrigt risikerer vi en meget høj regning, hvis det danske tilsyn ikke reelt håndhæver EU’s regler.  Ud over risikoen for negativ opmærksomhed af den dyre slags fra EU, risikerer vi at slagsmålene i stedet bliver henlagt til de nationale domstolene og EU-domstolen.

For ikke at tale om risikoen for det tillidstab en sådan løsning indebærer. Samfundet er allerede presset nok på tilliden, som det er.

Befolkningens tillid til, at nye teknologier anvendes på en måde, der er lovlig og dermed medvirker til at sikre, at dataetiske værdier og principper efterleves i samfundet, er på denne måde afgørende for fortsat opbakning til udnyttelse af nye teknologier og dermed for virksomheders og myndigheders muligheder for at udnytte disse teknologier.

Og så har jeg slet ikke udfoldet risikoen for person- og samfundsskadelig udvikling og brug af AI. Overvågning, privatlivskrænkelser og diskrimination af seksuelle minoriteter, handicappede, kvinder, ældre – ja dig. Det er her, det virkelige skræmmescenarie ligger. 

Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion

Omtalte personer

Johan Busse

Formand, Dataetisk Råd, borgerrådgiver, Københavns Kommune
cand.jur. (Københavns Uni. 1999), Master of Public Governance (CBS 2015)

Jan Damsgaard

Professor, Institut for Digitalisering, CBS, medlem af SMV:Digital, ATV Digital vismand
cand.scient. i datalogi og psykologi (Aalborg Uni. 1993), ph.d. i Informationssystemer (Aalborg Uni, 1996)









Altinget logo
København | Stockholm | Oslo | Bruxelles
Politik har aldrig været vigtigere
AdresseNy Kongensgade 101472 København KTlf. 33 34 35 40[email protected]CVR nr.: 29624453ISSN: 2597-0127
Ansv. chefredaktørJakob NielsenDirektørAnne Marie KindbergCFOAnders JørningKommerciel direktørMichael ThomsenFormand og udgiverRasmus Nielsen
Copyright © Altinget, 2024