EU's medlemslande må skaffe dokumentation, der kan tæmme tech-virksomhederne

Men EU har banket en kile ind, som nu skal stå sin prøve, mens man i USA skyder med alt, hvad man har, i retssager i håb om at finde sprækker i det juridiske murværk.  

Sidste år rullede EU sit nye tunge skyts ud: Forordningen om digitale tjenester (DSA).

Forordningen stiller skarpt på de store tech-virksomheder med over 45 millioner brugere, det vil sige sociale platforme som blandt andet Snapchat, Instagram og TikTok.

Den giver EU-Kommissionen muligheden for at skyde undersøgelsessager i gang, hvis der er mistanke om, at platformene vender det blinde øje til blandt andet ulovligt indhold, overgreb mod børn og vold mod kvinder.

Og med bøder på op til seks procent af virksomhedernes årlige omsætning, har Kommissionen nu mulighed for rent faktisk at ramme tech der, hvor det gør allermest ondt: på pengepungen. 

Med bøder på op til seks procent af virksomhedernes årlige omsætning, har kommissionen nu mulighed for rent faktisk at ramme tech der, hvor det gør allermest ondt.

Ask Hesby Holm
Direktør i Digitalt Ansvar

Der er bare ét problem.

Sagerne kræver selvfølgelig ammunition i form af solid dokumentation, som præcist og systematisk kan bevise, at et navngivet socialt medie eksempelvis ikke beskytter kvinder mod digitale overgreb og deling af intimt-materiale i tilstrækkelig grad ved blandt andet at dokumentere, at nøgenbillederne dukker op igen og igen. 

Og det er straks sværere. For man kan ikke bare sætte kablet til computeren og hive store mængder data ud om ulovligt indhold eller chats, der afslører overgreb.

Man kan heller ikke fra et skrivebord vurdere sikkerhedstiltag. Det kræver test, som når man kører en bil ind i en mur, og ikke kun forlader sig på ingeniør-tegningerne.  

Kommissionen er derfor afhængig af, at eksempelvis universiteter og organisationer rundt om i Europa foretager undersøgelser og leverer præcis dokumentation til kommissionen.  

I Digitalt Ansvar har vi blandt andet undersøgt, om Google og Bing gør nok for at minimere vold mod kvinder i form af spredningen af manipuleret seksuelt materiale, såkaldt deepfake porn.

Vores vurdering er, at de kan gøre meget mere.

Også TikToks anbefalingsalgoritme har vi testet. Her så vi, at unge sårbare brugere allerede efter ét kvarter ender i et feed, der består af op til 80 procent af depressivt-, selvskade- og selvmordsindhold, hvis de interagerer med den type indhold.

Det betyder, at hvis man som 13-årig bliver præsenteret for en video med en, der taler om selvmord på en positiv måde og herefter liker videoen eller afspiller den igen, vil mere og mere af samme indhold dukke op i barnets feed.  

Det er tydeligt for os at se, at det produkt, tech-virksomhederne leverer, kan blive meget mere sikkert.

Men vores dokumentation skal være så god, at det kan stå sin prøve ved en domstol, som i sidste ende kan afgøre, om bevismaterialet holder vand. 

Det betyder, at Danmark og resten af medlemslandene har en stor rolle at spille, når det kommer til at tæmme tech-virksomhederne.

For lykkes det EU at få systematisk dokumentation fra Danmark, Tyskland, Holland med videre, der holder i retten, har EU kugler til at lade magasinet og tvinge virksomhederne til at gøre nettet et mere sikkert sted for både børn og voksne.  

Selvom USA virker splittet, har tech-virksomhedernes ageren alligevel skabt enighed blandt republikanere og demokrater.

Senest har en mor til en tiårig, som døde ved at kvæle sig selv, da hun tog del i den kontroversielle ”blackout challenge” på TikTok, fået medhold i, at TikTok ikke kan sige hus forbi.

Ask Hesby Holm
Direktør i Digitalt Ansvar

Alligevel er det ikke lykkedes med en samlet lov som i EU. Derimod er der gang i retssagerne mod tech-virksomhederne.

Senest har en mor til en tiårig, som døde ved at kvæle sig selv, da hun tog del i den kontroversielle ”blackout challenge” på TikTok, fået medhold i, at TikTok ikke kan sige hus forbi.

Domstolen lagde nemlig vægt på, at selvom TikTok ikke kunne holdes ansvarlige for selve indholdet ”blackout challenge,” så var det anderledes med platformens algoritme, der anbefalede indholdet direkte til den tiårige. 

I takt med, at sociale medier bruger avancerede algoritmer, der anbefaler og kuraterer indhold, bevæger tech-virksomhederne sig væk fra den beskyttelse, som Section 230 og EU-lovgivningen har givet dem i mere end 20 år.   

Men selvom de mange retssager kan give håb om en ændring, er der endnu ikke sket en banebrydende forandring i USA.

Tech er stadig i beskyttelseszonen bag den juridiske 230-mur. 

Håb er ikke en strategi, der matcher de mange dårlige sager og befolkningens holdning, som afspejles i politikernes legitime ønske om at tæmme tech-virksomhederne.

Der er brug for, at Danmark og andre EU-lande hjælper Kommissionen med at skaffe den dokumentation, der skal til for, at DSA’en kan håndhæves. 

Her kan vi gøre mere. Vi skal ændre på, at tech ved alt om os, mens vi ved meget lidt om dem.