Digitalt Ansvar: Søgemaskinerne skal stå til ansvar for håndteringen af manipuleret seksuelt materiale

Hvis ikke vi stiller søgemaskinerne til ansvar for håndteringen af manipuleret seksuelt materiale, vil problemet kun vokse i takt med, at AI-teknologien til manipulation bliver bedre og mere udbredt, skriver Ask Hesby Holm.

Digitalt Ansvar har valgt at klage til Konkurrence- og Forbrugerstyrelsen over Google og Bings håndtering af manipuleret seksuelt materiale. Nu skal banebrydende EU-lov vise sit værd, skriver Ask Hesby Holm. — Digitalt Ansvar har valgt at klage til Konkurrence- og Forbrugerstyrelsen over Google og Bings håndtering af manipuleret seksuelt materiale. Nu skal banebrydende EU-lov vise sit værd, skriver Ask Hesby Holm. Foto: Richard Drew/AP/Ritzau Scanpix

Ask Hesby Holm

Direktør, Digitalt Ansvar

Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Et feriebillede fra din Instagram eller et billede fra din LinkedIn-profil, hvor du holder oplæg i arbejdsregi.

Mere skal der ikke til for, at nogen kan fremstille en manipuleret seksuel video, hvor du optræder i en ydmygende seksuel situation.

Som om dét ikke er problematisk nok i sig selv, så kan hele verden nemt finde den krænkende video af dig, hvis den deles ulovligt på nettet. Og det skyldes søgemaskinerne.

I Digitalt Ansvar har vi nemlig dokumenteret, hvordan Google og Bing indekserer og rangerer søgeresultater for ”deepfake porn” og dermed bidrager til at øge spredningen af ulovligt manipuleret seksuelt materiale. Og det er ikke kun et problem i udlandet.

Digitalt Ansvar har derfor valgt at klage over Google og Microsoft til Konkurrence- og Forbrugerstyrelsen.
Ask Hesby Holm
Direktør, Digitalt Ansvar

Ida Auken, Pernille Vermund og Mai Mercado har blandt andet for nyligt stået frem i Politiken og fortalt, hvordan hjemmesider med manipulerede seksuelle videoer af dem ligger let tilgængelige i Googles søgeresultater.

Som svar på kritikken opfordrede Google og Microsoft, som står bag Bing, til at man anmelder direkte til dem, hvis man støder på denne type af indhold.

Vi tog dem derfor på ordet og anmeldte.

Google og Microsoft overholder ikke EU-lovgivningen

I Digitalt Ansvar anmeldte vi 61 søgeresultater til Google og Bing, som henviser til hjemmesider med manipuleret seksuelt materiale.

Det er hjemmesider, hvor blandt andet beskrivelsen i søgeresultaterne lokker med navne på kendte kvindelige skuespillere, debattører eller politikere, som ikke associeres med pornoindustrien.

Derfor anser vi det som usandsynligt, at de kendte kvinder har givet samtykke, hvorfor søgemaskinerne derfor linker til ulovligt materiale.

På trods af det, har Google og Microsoft ikke fjernet en eneste af vores anmeldte søgeresultater.

At søgemaskinerne hverken fjerner eller begrunder deres beslutninger, står i skærende kontrast til deres egen opfordring og tilskyndelse til at anmelde.

Læs også

It-ekspert: Nøgenbilleder af Taylor Swift viser behovet for lovindgreb mod deep fakes

Debat

Og hvad værre er, så lever deres håndtering af vores anmeldelser, efter vores vurdering, ikke op til EU-reglerne på området.

Søgemaskinerne sender nemlig korte svar på engelsk uden begrundelser for deres afgørelser, hvilket gør sagsbehandlingen uigennemsigtig.

Derudover yder søgemaskinerne ikke klagevejledning og deres svar er mangelfulde og lever ikke op til reglerne i EU’s forordning om digitale tjenester (DSA), som trådte i kraft tilbage i februar.

Digitalt Ansvar har derfor valgt at klage over Google og Microsoft til Konkurrence- og Forbrugerstyrelsen, som er det danske DSA-tilsyn, for at efterprøve reglerne i praksis.

EU’s digitale forordning skal vise sit værd

Ud over reglerne for klagemulighederne indeholder forordningen om digitale tjenester (DSA) et nyt værktøj, der kan vise sig at markere et paradigmeskifte i forhold til reguleringen og ansvarliggørelsen af tech-virksomheder.

EU-Kommissionen kan desuden inddrages og vælge at indlede en sag mod de to tech-virksomheder.
Ask Hesby Holm
Direktør, Digitalt Ansvar

Forordningen stiller nemlig krav til, at de helt store sociale medier og søgemaskiner skal identificere og afbøde systemiske risici, der knytter sig til deres tjenester, herunder ulovligt indhold og kønsbaseret vold.

Det store spørgsmål er, om vores undersøgelse af håndtering af anmeldelser om manipuleret seksuelt indhold alene viser, at søgemaskinernes håndtering af klager i dette tilfælde var for dårlig, eller om den peger på et større problem, hvor søgemaskinerne kan holdes ansvarlige for at medvirke til spredningen af digital vold mod kvinder i form af manipuleret seksuelt materiale.

Konkurrence- og Forbrugerstyrelsen skal efter modtagelsen af vores klage vurdere hvorvidt de mener, at Google og Microsoft overtræder forordningen og derfor bestemme, om sagen skal sendes videre til det tilsvarende tilsyn i Irland, som er de to tech-virksomheders europæiske hovedsæde.

EU-Kommissionen kan desuden inddrages og vælge at indlede en sag mod de to tech-virksomheder.

Og dét ville være godt nyt for ofrene og alle andres fremtidige sikkerhed på nettet.

For hvis vi ikke stiller søgemaskinerne til ansvar for håndteringen af manipuleret seksuelt materiale, vil problemet kun vokse i takt med, at AI-teknologien til manipulation bliver bedre og mere udbredt.

Læs også