Lektor: Sociale mediers økonomiske interesser svækker demokratiet. Hvorfor stiller vi ikke større krav?

Selvom der er meget fokus på den rolle, som algoritmer spiller i prioriteringen af indhold, så er det vigtigt at huske, at de grundlæggende er menneskelige beslutninger, der ligger bag, hvordan algoritmerne er programmerede.

Det er i samspillet mellem de redaktionelle beslutninger som ledere og programmører tager og mekanismerne i de algoritmiske systemer, at sociale medier udøver den kuraterende magt.

I dette essay belyser jeg tre forskellige udviklinger i, hvordan sociale medier kuraterer indhold, der på hver sin vis demonstrerer konflikten mellem platformenes økonomiske interesser og demokratiske værdier for den offentlige samtale.

Essayet er hverken udtømmende for emnet eller giver definitive svar, men rejser i stedet centrale problemstillinger for forståelsen af magten i Danmark.

Et nyhedsfeed uden nyheder

Sociale medier som Facebook, Instagram, TikTok og Twitter er annoncebaserede platforme, der i bund og grund er interesseret i at få folk til at blive så lang tid som muligt, og se flest mulige reklamer eller købe flest mulige produkter.

Det sidste gælder især Instagram og TikTok, der har bevæget sig ind på e-handelsmarkedet.

Samtidig har platformene over de senere år mødt meget (og ofte berettiget) kritik for for eksempel ikke at fjerne uetisk og ulovligt indhold, at målrette reklamer til børn, og for at give en stærkere stemme til nogle politiske aktører over andre.

En intern opgørelse fra Meta viste sidste år, at links til nyhedswebsites nu udgør mindre end 3% af et typisk feed på Facebook.

Jacob Ørmen
Lektor, Center for Tracking and Society, Københavns Universitet

Det har været med til at skubbe platformene i en mere ansvarlig retning, men har samtidig også givet dem et incitament til at undgå kontroversielt indhold, der kan få dem i fedtefadet hos annoncører og lovgivere.  

En konsekvens af dette pres har været, at platformene generelt nedprioriterer politisk indhold til fordel for det kommercielt mere sikre.

Meta har for eksempel for nyligt lanceret en strategi om aktivt at nedprioritere politisk indhold i feeds på tværs af Instagram og Facebook, så man aktivt skal vælge nyhedsmedier og politiske aktører til, før man bliver eksponeret for den slags indhold til på platformene.

En intern opgørelse fra Meta viste sidste år, at links til nyhedswebsites nu udgør mindre end 3% af et typisk feed på Facebook.

De prioriteringer har danske medier allerede mærket effekten af.

Over det sidste års tid er trafikken fra Facebook til de danske mediers hjemmesider faldet markant, hvor for eksempel et medie som Berlingske har mistet hele 39% af trafikken.

Det er et grundvilkår, når man sætter sin lid til udenlandske kommercielle platforme for at nå brugerne, at betingelserne kan forandre sig pludseligt.

Men for at sikre en kvalificeret offentlig debat er det bemærkelsesværdigt og bekymrende, hvor svært journalistisk indhold er begyndt at få det på platformene.

Samtidig er Facebook, Instagram, og X (tidligere Twitter) begyndt at gå i TikToks fodspor ved at skubbe platformene i retning af globale underholdningsmedier snarere end lokale netværksmedier.

Hvor folk har været vant til, at anbefalinger i feedet er kommet fra deres venner, eller profiler de følger, så har platformene rykket sig mere mod at anbefale indhold fra profiler, der er populært på tværs af platformen ligegyldigt om folk er forbundet med eller følger de pågældende profiler.

Meta havde for eksempel i slutningen af 2023 et mål om at 30% af opslagene i Facebook- og Instagram-feeds skulle være algoritmisk anbefalet, mens det drejer sig om cirka 50% af indholdet på X.

For nyligt, illustrerede Politiken fint denne udvikling i en lille undersøgelse af journalistens Facebook-feed, der rigtig nok viste, at omtrent halvdelen af indholdet var enten promoveret indhold, det vil sige reklamer, eller foreslået indhold, der ikke kom fra dem, som personen er venner med eller følger.

Hvis vi kigger samlet på tendenserne til at nedprioritere nyheder samt at anbefale globalt populært indhold, så tyder de på, at platforme som Facebook og Instagram, og til en vis grad X, bevæger sig i retning af, at anbefale ukontroversielt underholdnings­indhold, der er globalt populært på bekostning af den professional dansksprogede journalistik samt ytringer og holdninger fra ens eget netværk.

Platformenes potentiale, og mangel på samme, som offentlige mødesteder mellem borgere, politikere, medier og andre organisationer skal også ses i det lys.

En megafon til det højlydte mindretal

Det er velkendt, at der er stor forskel på, hvem der deltager i den offentlige debat på sociale medier.

Typisk finder vi en lille gruppe meget aktive brugere, som står for størstedelen af deltagelsen – om det er i produktionen eller i spredningen af indhold.

De digitale platforme kan forstærke eller mindske denne tendens gennem deres anbefalingssystemer.

Man kunne for eksempel forestille sig, at en platform vælger aktivt at vægte indhold fra den brede brugergruppe højere end indhold fra de få højlydte.

De studier, der har været af det i praksis peger imidlertid på den modsatte tendens, nemlig at platformene i den grad forstærker det allerede højlydte mindretal.

Facebooks, nu Metas, platforme fokuserer på den økonomiske bundlinje snarere end brugernes sikkerhed i måden, de anbefaler indhold på.

Jacob Ørmen
Lektor, Center for Tracking and Society, Københavns Universitet

Mange digitale platforme lægger stor vægt på målinger af brugernes engagement i deres anbefalingssystemer.

Det kan for eksempel være indikatorer af, hvor mange likes eller kommentarer en post har fået, eller hvor lang tid folk ser på det indhold, som systemet præsenterer dem for.

Den tidligere Facebook-ansatte Frances Haugen lækkede i 2021 en række dokumenter, kaldet Facebook Files, som viste, hvordan Facebooks, nu Metas, platforme fokuserer på den økonomiske bundlinje snarere end brugernes sikkerhed i måden, de anbefaler indhold på.

Et af dokumenterne viste, at indhold, der genererede mange kommentarer og delinger fra brugerne var et af de vigtigste parametre i Metas anbefalingssystemer.

En undersøgelse af tusindvis af Facebook-sider og grupper i 2020 viste, at en lille, men meget aktiv, skare af brugerne påvirkede anbefalingerne på tværs af platformen uforholdsmæssigt meget.

Forfatterne estimerede, at den øverste 1 procent af de offentligt synlige brugere ville have genereret næsten halvdelen af de stærkeste engagementssignaler.

Med andre ord, en meget lille del af brugerne kan med engagementsbaserede anbefalingssystemer få en meget stor indflydelse på, hvad andre ser i deres feeds på platformene.

Således kommer platformene nemt til at forstærke de højlydte og til tider ekstreme stemmer på bekostning af den bredere offentlighed.

Det er derfor vigtigt at holde sig for øje, hvor lidt repræsentativ den offentlige debat på sociale medier er for den bredere befolknings tanker og meninger.

Manipulation er en integreret funktion

Igennem de seneste år har en engagementsindustri blomstret op, der tilbyder billige følgere, abonnenter, seere, klik og likes.

Udbredelsen af falske konti og indhold er også vokset i takt med udviklingen inden for kunstig intelligens, og den strategiske betydning af at kontrollere diskursen på sociale medier.

Selvom platformene bruger betydelige ressourcer på at bekæmpe falske eller manipulerende signaler, er det en kamp op ad bakke.

Alene i fjerde kvartal af 2023 fjernede eller forhindrede TikTok omkring 20 milliarder falske likes, mens Meta behandlede næsten 700 millioner falske konti i samme periode.

For TikTok er tallene kraftigt stigende, mens de for Meta er faldende. 

I 2019 opdagede Facebook alene omkring to milliarder falske konti, mere end den globale brugerbase på det tidspunkt – men det er ikke nødvendigvis et tegn på et mindre problem.

OpenAI erklærede sidste år, at firmaet ikke længere kunne skelne mellem tekster genereret af AI og tekster produceret af mennesker, hvilket signalerer, at våbenkapløbet mellem platformoperatører og udviklerne af automatiserede profiler, bots, langtfra er ovre.

Forskningen har gentagende gange vist, at problemerne med indholdsmanipulation er omfattende, og at selv små strategisk placerede bots, der liker, deler og kommenterer specifikke profiler og deres indhold kan få meget stor betydning for spredningen af indhold, netop fordi anbefalingssystemerne tillægger engagementsmetrikkerne så stor betydning.

Mens ingen platforme billiger manipulationen af engagement og falske profiler, så kan de have økonomiske incitamenter til ikke at håndtere problemet i sin grundvold.

For engagementsmetrikkerne er afgørende økonomiske indikatorer.

En platform, der kan vise vækst i antallet af daglige brugere eller mængden af indhold, som brugerne interagerer med, kan opnå en højere værdisætning på markederne, både på de offentlige børser og i de private investeringscirkler.

Til tider er platformene endda selv drivende for manipulationen som for eksempel da ByteDance tidligere i år blev afsløret i at have betalt brugerne i TikTok Lite appen for at interagere mere med indholdet.

TikTok Lite er rullet ud i Danmark endnu, men som illustrationen fra den spanske version af appen viser, så blev brugerne belønnet med point for at logge ind regelmæssigt, invitere andre til appen, samt følge og like indhold på platformen.

Billedtekst: Tidligere belønningssystem på TikTok Lite. Foto: Gaming Deputy

Pointene kunne de bruge til at købe for eksempel Amazon gavekort.

Det er ironisk nok præcist den slags belønninger, som platformene konsekvent forbyder andre at tilbyde brugerne.

Europa-Kommissionen har åbnet en sag på baggrund af afsløringerne, men det skal desværre kun ses som toppen af isbjerget.

Platformene lukrerer økonomisk på det øgede engagement lige meget om det er reelt eller manipuleret, og om de selv driver det eller andre gør det for dem.

Problemet med manipulation er ikke kun isoleret til produktion og deling af indhold, men har også bevæget sig ind på annoncemarkedet.

Man kunne passende spørge sig selv, om man som samfund kan tillade, at platformene lader ukendte og skjulte aktører reklamerer på det danske marked.

Jacob Ørmen
Lektor, Center for Tracking and Society, Københavns Universitet

Som den aktuelle danske sag med kendte der misbruges i reklamer på især Facebook illustrerer, er problemet særdeles omfattende, da kampagnerne typisk køres fra en masse forskellige konti, der kan automatiseres til at generere og sprede indholdet ved hjælp af AI-systemer.

I Metas åbne annoncesystem kan man se, at en del af reklamerne køres af profiler, der enten er falske, købt til formålet eller hacket. De egentlige bagmænd forbliver skjulte.

Det bemærkelsesværdige er, at platforme som Meta har tjent millioner, hvis ikke milliarder, fra lignende typer af annoncesvindel i årevis.

Man kunne passende spørge sig selv, om man som samfund kan tillade, at platformene lader ukendte og skjulte aktører reklamerer på det danske marked.

Hvor platformene både er pro- og reaktive i indholdsmoderation, lader de til at være mere påpasselige med at verificere annoncørerne, før de kan køre kampagner i Danmark.

Vi kræver streng compliance fra banker og pengeinstitutter for at komme svindel og hvidvask til livs.

Er det helt uhørt at stille lignende krav til internationale platforme?

Manipulation ser desværre ud til at være så integreret del af platformsøkonomierne, at det er svært at forestille sig at sociale medier for alvor ville håndtere det af egen fri vilje.

Det er, som man siger i IT-miljøerne, a feature, not a bug.

Den offentlige debat bliver "platformiseret"

Den offentlige debat blandt borgere, politikere, organisationer og journalistiske medier føres i stigende grad på de digitale platformes præmisser.

I fagsproget kan man sige at den offentlige debat bliver platformiseret.

Platformenes økonomiske interesserer dikterer ikke bare hvilket indhold, der prioriteres i anbefalingssystemerne, men også hvem der kommer til orde, og derved hvis meninger, der repræsenteres.

Samtidig betyder den udbredte manipulation på sociale medier, at de signaler, som anbefalingssystemerne bruger til at prioritere indholdet, bliver skævvredne og tilgodeser dem, der formår at snyde (uden at blive opdaget, vel at mærke).

Magten til at udvælge og rangere indhold ligger selvfølgelig ikke kun hos platformene, men deres fortsatte popularitet blandt befolkningen betyder, at de fortsætter med at spille en central rolle i at danne rammerne for vores offentlige debat.