Analytikere: Vi går ind i verdens største valgår med bekymrende adgang til troværdig information

Senest har EU med sin Digitale Service Act varslet store bøder, hvis de sociale medieplatforme lader udenlandske aktører manipulere med vores samtale.

Generativ teknologi som digitalt våben

I år står vi dog over for en radikal ny udfordring: generativ kunstig intelligens. Med ChatGPT, Dall-E, Bard, Llama og de mange andre generative teknologier har menneskeheden fået mulighed for at skabe tekst, billeder, lyd og videoer i hidtil ukendt hastighed.

Det er godt nyt, hvis du skal skrive en jobansøgning på 30 minutter, men det er skidt nyt for arbejdet med at beskytte den demokratiske samtale.

Teknologierne er nemlig ikke blege for at komme op med tekst, video og billeder, der mildt sagt har en lemfældig omgang med sandheden – og dét er netop, hvad du skal bruge, hvis dit arbejde er at undergrave den vestlige befolknings evne til at skelne fup fra fakta.

Generativ kunstig intelligens udfordrer den demokratiske samtale i verdens demokratier.

Tobias Bornakke og Sarah Steinitz
Partnere, Analyse & Tal

Vi har allerede set de første eksempler.

To dage før valget i Slovakiet i september år blev der udsendt en lydfil med oppositionslederen, Michal Šimečka, der konspirerede med en journalist om, hvordan de kunne manipulere valget ved at købe stemmer fra landets roma-befolkning.

Lydfilen blev lagt op i den 48-timers "stille periode", hvor medier og politikere ifølge de Slovakiske valgregler skal forholde sig tavse, og det var derfor ikke let for oppositionslederen at afkræfte lydfilen.

Michal Šimečka endte med at tabe valget knebent til hans pro-russiske modstander. Vi kan i dag kun gisne om den falske lydfil rolle i nederlaget, og hvem der skabte og spredte den. Men uanset hvad svaret er, så illustrer lydfilen og de 365.000 andre manipulationsforsøg i den slovakiske valgkamp den udfordring, vores demokratier står overfor de kommende år.

Halvdelen af verden til valg

I 2024 skal der afholdes valg i lande, der tilsammen dækker omkring halvdelen af verdens befolkning. Der er blandt andet valg i USA, Brasilien, Mexico, Indien, Indonesien, Rusland og også herhjemme, nemlig til Europa-Parlamentet.

Spørgsmålet er, om verden er klar til det største valgår i historien?

I Analyse & Tal er vi lidt bekymrede. Vi bruger en stor del af vores tid på at undersøge den digitale samfundsdebat på sociale medier samt kortlægge spredning af falsk indhold (mis- og disinformation).

Mens uigennemsigtige algoritmer og målrettede holdningskampagner igennem lang tid har kunne skabe problemer på sociale medier, sætter generativ kunstig intelligens problemerne på steroider.

Vi står med en helt ny grundpræmis for vores demokratiske debat. En præmis, der lyder: Kan jeg overhovedet stole på det, jeg læser, ser og hører? Hvordan kan vi have en demokratisk debat om klimaforandringer, hvis dit sociale medie feed fortæller dig, at verden er ved at gå under, mens mit feed viser, at det slet ikke findes?

Faktatjekket indhold på sociale medier

Verden over er alvoren ved at gå op for de demokratiske ledere. Det blev understreget af World Economic Forums Global Risk Report, hvor 1.500 uafhængige eksperter placerede AI generede mis- og desinformation som den største kortsigtede risiko for verden, foran risici som naturkatastrofer, krig og inflation.

Teknologiens evne til at spore sig selv er i øjeblikket ret håbløs.

Tobias Bornakke og Sarah Steinitz
Partnere, Analyse & Tal

Hvad kan vi overhovedet gøre?

Én tilgang er at gøre mere af det, vi allerede gør: styrke befolkningers medieforståelse og kildekritik og sætte målrettet ind på at faktatjekke indholdet på sociale medier.

Det er bestemt fornuftigt, men mon det rækker i en fremtid, hvor der forventes at være mere syntetisk end menneskeskabt skabt viden på internettet?

Andre foreslår at bruge de nye teknologier selv til at spore, om indhold er skabt med generativ kunstig intelligens. Drømmen om et sådant teknologisk fix er blevet forfulgt af forskergrupper verden over, men uden stor succes.

I Analyse & Tal testede vi sidste år Open AI's værktøj på indhold fra 15 politiske Facebooksider, som vi vidste var skrevet af mennesker. Nedslående gættede værktøjet på, at to tredjedele af opslagene var skrevet af en kunstig intelligens. OpenAI er efterfølgende selv nået frem til, at værktøjet var ubrugeligt og har lukket det ned igen.

Adgang til troværdig information

En lignende konklusion gjorde en gruppe forskere sidste år, da de afprøvede om eksisterende teknikker til at detektere falske profiler kunne genkende et botnetværk (et netværk af falske profiler) på det sociale medie X, som blev drevet ved hjælp af generativ kunstig intelligens. Det kunne de ikke. Teknologiens evne til at spore sig selv er i øjeblikket ret håbløs.

En tredje vej er at indføre mere autentificering på internettet. Man kan for eksempel forestille sig, at man kan logge ind på Facebook med MitID. Denne løsning er imidlertid heller ikke ukompliceret, da den gør op med muligheden for at være anonym.

Det kan måske synes underordnet, at Mark Zuckerberg eller den danske stat ved, hvad du har lagt op på Instagram, men i ustabile demokratier, hvor regeringskritiske personer allerede i dag forfølges systematisk, kan sådanne krav reelt afmontere muligheden for en opposition.

Generativ kunstig intelligens udfordrer den demokratiske samtale i verdens demokratier. Og det hænger især sammen med, at mange mennesker får deres nyheder fra sociale medier.

I Danmark er sociale medier den foretrukne kilde til nyheder for de 16-24-årige ifølge Danmarks Statistik. Verdens største valgår kalder på en diskussion om, hvordan vi bedst sikrer alle adgang til troværdig information.

Skal sociale medier gøres til et sikrere sted? Skal vi i højere grad ruste befolkningens kildekritik? Kalder tiden på at bryde mediernes betalingsmure ned i stedet for at bygge dem op – eller måske ligefrem tænke i nye typer af nyhedsformidling rettet mod et publikum, der i dag sjældent ser en avis?