Digitalt Ansvar: Lovgivningen skal stille krav til tech-virksomheder om moderation på sociale medier

Derfor ved vi nu præcist, hvor mange moderatorer tech-virksomheder såsom Meta, TikTok og Snapchat har ansat i Danmark og på europæisk plan til at fjerne ulovligt indhold såsom deling af intime billeder uden samtykke, overgrebsvideoer og desinformation.

Ikke overraskende, er størrelsesforholdet mellem moderatorer og brugere latterligt lavt.

Meta har således kun ansat seks dansktalende moderatorer til at moderere indhold fra Instagram og Facebooks tilsammen over otte millioner månedlige aktive brugere i Danmark.

LinkedIn og X har ingen dansktalende moderatorer. Til sammenligning fremstår TikTok, med sine 27 dansktalende moderatorer til 1.400.000 månedlige aktive, danske brugere, som den pæne dreng i klassen.

Sprogforståelse er vigtig for at kunne moderere blandt andet hadefuld og manipuleret tekst.

Ask Hesby Holm
Direktør, Digitalt Ansvar

Men TikTok har selvfølgelig også store udfordringer med ulovligt og skadeligt indhold.

Vi har blandt andet tidligere dokumenteret, at sårbare unge brugere hurtigt kan ende med kun at blive præsenteret for selvmords- og selvskadeindhold.

Sprogforståelse er essentiel

Sprogforståelse er vigtig for at kunne moderere blandt andet hadefuld og manipuleret tekst, mens voldelige videoer godt kan afkodes af ikke-dansktalende moderatorer og billedgenkendelsesværktøjer.

Men der er heller ikke en hær af udenlandske moderatorer. På europæisk plan har Meta nemlig kun 1.278 moderatorer i alt til at moderere indhold fra Instagram og Facebooks tilsammen 525 millioner månedlige aktive brugere.

Det kan derfor næppe komme bag på nogen, at det flyder med ulovligt og skadeligt indhold på sociale medier.

Konsekvenser er der til gengæld nok af.

Det er for eksempel i mange tilfælde svært for ofre for deling af intime billeder eller manipulerede nøgenbilleder uden samtykke at få fjernet deres billeder helt fra sociale medier, børn og unge eksponeres for skadeligt indhold med afledte psykiske konsekvenser, og kriminelle svindelnetværk får nærmest lov til at operere frit på platformene. Bare for at nævne et par.

Moderation giver ikke penge i kassen

Moderation er ikke en dårlig forretning alene, fordi det koster at have moderatorer ansat. En højere grad af moderation harmonerer nemlig grundlæggende ikke med sociale mediers forretningsmodel.

For sociale medier tjener deres penge på, at vi fastholdes på deres platforme. Og vi ved, at netop voldsomt, forargende og misvisende indhold engagerer og fastholder.

EU skal derfor stille konkrete krav om en minimumsgrænse på moderatorer baseret på antal brugere.

Ask Hesby Holm
Direktør, Digitalt Ansvar

Samtidig ligger sociale medier i intens konkurrence med hinanden. Flere moderatorer, der fjerner mere indhold kan betyde, at sociale medier mister brugere, fastholdelseskraft og dermed penge.

Det taler for lovgivning, der skaber ensartede konkurrencevilkår med specifikke krav til, hvor hurtigt ulovligt indhold for eksempel skal fjernes fra platformene og krav til antallet af moderatorer i de lande, platformene opererer i.

Som lovgivningen er nu, skal sociale medier, som EU’s forordning for digitale tjenester formulerer det, “straks tage skridt” til at fjerne det ulovlige indhold eller hindre adgangen til det, når de bliver opmærksomme på det.

Udover at det er uklart præcist, hvor hurtigt de sociale platforme skal agere, er der heller ikke krav til antallet af moderatorer.

EU skal derfor stille konkrete krav om en minimumsgrænse på moderatorer baseret på antal brugere i hvert enkelt land.

For hvis vi skal gøre os forhåbninger om, at sociale medier i fremtiden bliver et tryggere sted, er der behov for, at sociale medier bruger en større del af deres milliardomsætning på moderation.