Det er i den grad på tide, at vi tager truslen fra manipuleret seksuelt materiale alvorligt
Regeringens forslag om en kriminalisering af manipuleret seksuelt materiale er vigtigt i kampen mod digital vold, skriver Ask Hesby Holm.
Ask Hesby Holm
Direktør, Digitalt AnsvarPå baggrund af Digitalt Ansvars anbefaling fra april foreslog regeringen 21. oktober at kriminalisere fremstilling af manipuleret seksuelt materiale som en del af en række initiativer mod at bekæmpe seksuelt krænkende materiale af især børn.
Det er vi naturligvis glade for i Digitalt Ansvar, da det i den grad er på tide, at vi tager truslen fra manipuleret seksuelt materiale alvorligt.
Vi har det seneste år arbejdet intensivt med at undersøge forskellige aspekter af fænomenet. Fra teknologien, som især er muliggjort af kunstig intelligens, til Google og andre søgemaskiner, som aktivt gennem deres søgeresultater udbreder hjemmesider, der deler materialet eller tilbyder værktøjer til fremstilling og til blandt andet Discord og Telegram, hvor også danske brugere køber og sælger manipuleret seksuelt materiale.
De fleste kender måske fænomenet under betegnelser som ’deepfake porno’ eller ’fake porno’, som dog ikke er særligt retvisende for det skadelige fænomen, som manipuleret seksuelt materiale i virkeligheden er.
For der er ikke tale om pornografisk materiale i traditionel forstand, men materiale der oftest er fremstillet uden samtykke fra den afbildede og derfor kan kategoriseres som overgreb.
Kvindelige, danske politikere har blandt andet tidligere på året stået frem i Politiken og fortalt, at der florerer manipulerede seksuelle billeder og videoer af dem på nettet, som de ikke har samtykket til. Samme avis har berettet om, at avisen bare via Google har fundet frem til manipulerede seksuelle billeder og videoer af i alt 51 kendte danske kvinder.
Meget tyder på, at problemet kun vil vokse sig større.
Ask Hesby Holm
Udover at opfylde nogle gerningsmænds seksuelle fantasi, kan motivet med at fremstille og dele den slags materiale også være mere kvindefjendsk: Ønsket om at ydmyge kvinder ved at fremstille dem i en manipuleret gabestok, eller tvinge kvinder til tavshed ved at afskrække dem fra at deltage i den offentlige debat.
Der skal for eksempel ikke mange søgninger til, før man finder ekstremt voldeligt materiale, hvor blandt andet kvindelige politikere eller debattører er manipuleret ind i sammenhænge, hvor de gruppevoldtages eller udsættes for mishandling og diverse ydmygelser.
Det er selvfølgelig slemt nok i sig selv, at politikere, royale eller skuespillere udsættes for det, man kun kan betragte som en form for digital vold.
Problemet har dog også vokset sig større i takt med, at teknologien hele tiden forbedres, og antallet af tjenester, der tilbyder AI-værktøjer til billedmanipulation, bliver flere og lettere tilgængelige.
I Digitalt Ansvar er vi blandt andet stødt på flere såkaldte ’nudify-bots’ i danske grupper på Telegram, hvor man kan uploade et ganske normalt og påklædt billede af en person, som botten herefter ”afklæder” ved at manipulere billedet ind i en seksuel sammenhæng. The Wired har for nyligt berettet om over fire millioner månedlige brugere af disse bots, bare på Telegram.
Derfor er det langtfra overraskende, at vi også allerede har set eksempler på sager, som vedrører almindelige danskere. En 16-årig skoleelev er blandt andet dømt for at dele et manipuleret seksuelt billede af en klassekammerat, ligesom en 24-årig mand er blevet dømt for at dele lignende materiale af i alt 19 danske børn og unge kvinder, hvis oprindelige billeder han fandt på deres profiler på sociale medier.
Meget tyder på, at problemet kun vil vokse sig større, og derfor kommer en skærpelse af lovgivningen på et godt tidspunkt.
Digitalt Ansvars egne tal fra 2023, som er frembragt i samarbejde med Epinion, viser for eksempel, at omkring cirka 45.000 danskere over 15 år har været udsat for det, der i undersøgelsen kaldes ”fake porn” indenfor det seneste år. Og en ny rapport fra den amerikanske NGO Center for Democracy and Technology viser, at hele 15 procent af amerikanske skoleelever i 6-12. klasse har oplevet, at der er blevet delt manipuleret seksuelt materiale af nogen på deres skole.
En kriminalisering af fremstilling af manipuleret seksuelt materiale vil forhåbentligt betyde, at flere vil tænke sig om en ekstra gang, inden de selv benytter sig af tjenester på nettet til at fremstille for eksempel uægte nøgenbilleder.
Vi har mere end nogensinde brug for at stå fast på retten over egen krop, identitet og omdømme.
Ask Hesby Holm
Derudover sættes der ind, før skaden er sket, og materialet er delt og gør det strafbart i de situationer, hvor materialet fremstilles uden hensigt om efterfølgende deling.
Man kan for eksempel forestille sig situationer i dag, hvor toksiske ekskærester fortæller, at de ”mindes” deres sexliv ved at fremstille manipulerede seksuelle videoer, eller at skoleelever, som led i mobning, fortæller klassen om seksuelle videoer, som de har fremstillet derhjemme af klassekammerater. I fremtiden vil sådanne krænkende situationer tage afsæt i noget strafbart.
For at komme problemet til livs, er det klart, at vi også skal sætte ind med strengere krav til teknologien, der muliggør fremstilling af materialet og samtidig sætte ind overfor de bagmænd, der for eksempel af kommercielle årsager i stort omfang fremstiller og sælger manipuleret seksuelt materiale af andre uden samtykke.
Men en skærpelse på området er et vigtigt skridt på vejen, fordi vi som samfund dermed understreger, at vi, alene, har den fulde ret over vores egen krop, også når den i en verden med kunstig intelligens kan afkobles vores fysiske legeme og få nyt liv.
For i en tid, hvor kun fantasien sætter grænsen for, hvad der kan skabes og deles, har vi mere end nogensinde brug for at stå fast på retten over egen krop, identitet og omdømme.