Lisbeth Knudsen: En ny trussel overhaler klimaet på global bekymringsliste

Teknologier som generative AI-chatbots har demokratiseret evnen til at skabe overbevisende falsk indhold og begrænser ikke længere denne mulighed til dem med specialiserede færdigheder. Falske tekster, billeder og videoer kan potentielt undergrave demokratiske processer ved at sprede falske oplysninger og give næring til at destabilisere de valgte regeringers legitimitet.

Spredningen af falsk indhold kan drive samfundspolariseringen endnu længere ud i ekstremer, end den er i forvejen i visse lande. Polariseringen i samfundet er i øvrigt rykket op på en tredjeplads på den kortsigtede, globale bekymringsliste efter misinformation/desinformation på førstepladsen og ekstremt vejr, som ligger på andenpladsen.

Spredningen af falsk indhold kan drive samfundspolariseringen endnu længere ud i ekstremer, end den er i forvejen i visse lande

Lisbeth Knudsen

En "deepfake" video er et resultat af avanceret generativ AI og maskinlæringsteknologi. Sådanne videoer kan vise rigtige personer, der siger eller gør ting, som de faktisk aldrig har sagt eller gjort. Deepfake-teknologien har skabt betydelig bekymring, da den kan bruges til at få kendte politikere til at sige ting, som de aldrig kunne drømme om at sige. Og inden manipulationen bliver opdaget, kan videoen være spredt vidt og bredt på de sociale medier.

Generativ AI kan også bruges til mere avancerede cyberangreb, automatiserede phishing-forsøg eller til at generere avanceret malware. Der er også risiko for, at den form for AI kan inficere de datasæt, der bruges til at træne andre AI-systemer, indlejre bias og gøre disse bias vanskelige at standse. Når folk så bruger AI-systemerne til at så søge svar, så kan de være både forkerte, manipulerende eller ekstremt racistiske eller diskriminerende.

Derudover øger generativ AI risikoen for cybersikkerhedstrusler ved at give fjendtlige stater og hacking grupper mulighed for at automatisere cyberangreb på en langt mere sofistikeret måde, end vi har set det tidligere.

Generativ AI kan bruges til at skabe avanceret malware, der kan efterligne menneskers stemmer og vinde andres tillid, for derefter at lokke dem til eksempelvis at afsløre deres adgangskoder under phishing-angreb. En sådan udvikling stiller store krav til virksomhedernes og organisationernes cyberforsvar.

World Economic Forum peger på behovet for et større samarbejde mellem virksomheder og regeringer for at finde løsninger på AI-genererede desinformationskampagner og stigende cyberrisici. Det kunne inkludere en fremtidig regulering af teknologivirksomhederne med henblik på at kræve, at AI-genererede artikler og billeder indeholder et vandmærke, der identificerer dem som kunstigt genererede.

Risikolisten i World Economic Forums Risiko-rapport tager ikke alene højde for det kortsigtede perspektiv. Den har også et ti-års perspektiv. Her rykker ekstremt vejr op på førstepladsen efterfulgt af kritiske forandringer i jordens økosystem, faldende biodiversitet og knaphed på jordens ressourcer. Herefter kommer på femtepladsen misinformation og desinformation, negative resultater af AI-teknologier på en sjette plads og cybersikkerhed på en ottende plads.

World Economic Forum peger på behovet for et større samarbejde mellem virksomheder og regeringer for at finde løsninger på AI-genererede desinformationskampagner og stigende cyberrisici

Lisbeth Knudsen

Risikorapporten er en stærk påmindelse om AI-teknologiens tveæggede sværd. Selv om teknologien har et enormt potentiale for positiv indvirkning, udgør misbrug af AI til spredning af misinformation/desinformation en betydelig risiko især i lyset af de mange nationale og EU-valg, der finder sted i de kommende 24 måneder, hvor næsten tre milliarder mennesker forventes at stemme.

Flere techselskaber har i forberedelsen til det amerikanske valg i 2024 ændret deres tilgang til rent faktisk at begrænse misinformation. Det handler både om regler for politiske reklamer og håndteringen af falsk indhold.

Efter Elon Musk's overtagelse af Twitter (nu med navnet X), har platformen foretaget markante ændringer i deres politikker. De har ophørt med at håndhæve deres covid-19 misinformationpolitik, genoprettet konti for fremtrædende tilhængere af synspunktet om at sidste valg i USA blev ”stjålet” af præsident Joe Biden. Herunder har tidligere præsident Donald Trump fået genåbnet sin X-konto. Disse initiativer og ophævelsen af en række andre restriktioner har skabt bekymring for, at det kan forstærke mængden af falske opslag og informationer under valgkampagnen.

Meta, som er moderfirmaet til Facebook og Instagram, har også foretaget ændringer. De har blandt andet genoprettet Instagram-kontoen for Robert F. Kennedy Jr., en anti-vaccine-aktivist, der tidligere var blevet bandlyst for sit indhold. Dette skridt blev taget, fordi han nu er en aktiv præsidentkandidat i USA.

YouTube har bekræftet, at de ændrer deres tilgang til valgrelateret misinformation. Platformen har annonceret, at de vil stoppe med at fjerne indhold, der fremmer falske påstande om omfattende svindel og fejl i forbindelse med valghandlingen til det amerikanske præsidentvalg i 2020 eller tidligere valg. YouTube indførte oprindeligt en politik mod valgresultat-benægtelse i 2020, men har nu revideret den ud fra bekymringer om at begrænse ytringsfriheden op til det kommende valg i USA.

Forskere fra institutioner som Stanford Internet Observatory, der arbejder med misinformation, står over for udfordringer, herunder kongresundersøgelser og retssager anlagt af konservative grupper, som beskylder dem for at fremme censur. Nedskæringer i tech-sektoren har desuden svækket de kuratorteams og sikkerhedsteams, der holder øje med indholdet, og man har begrænset adgangen for forskerne til platformdata. Det gør det mere udfordrende og svært at undersøge og afsløre manipulationsforsøg i den demokratiske proces.

Nedskæringer i tech-sektoren har svækket de kuratorteams og sikkerhedsteams, der holder øje med indholdet, og man har begrænset adgangen for forskerne til platformdata

Lisbeth Knudsen

Disse ændringer i techselskabernes tilgang til misinformation og indholdspolitikker er et klart tegn på, at landskabet ændrer sig i opbygningen til det amerikanske valg i 2024. Mens nogle ser ændringerne som en trussel mod at forhindre spredning af falske informationer, ser andre det som en mulighed for at fremme ytringsfrihed og en mere åben debat.

I Europa går vi som sædvanlig den modsatte vej af de sociale platforme i USA. Her er vi optaget af at beskytte vores informationsmiljø gennem regulering og lovgivning. For at imødegå truslen fra misinformation i forbindelse med det kommende valg til Europa-Parlamentet i 2024 har EU og medlemsstaterne truffet en række foranstaltninger.

Der er en øget opmærksomhed på og handling mod aktører, der spreder misinformation for at destabilisere de europæiske samfund og demokratier. Europa-Parlamentet har udtrykt bekymring for øget indblanding og informationsmanipulation op til valget.

Der er bekymringer om blandt andet russisk og kinesisk indblanding i EU og kandidatlandene. Parlamentet har foreslået en koordineret strategi for at øge EU's modstandsdygtighed mod udenlandsk indblanding og informationsmanipulation. Der er også fokus på at beskytte kritisk infrastruktur og strategiske sektorer mod indflydelse fra udenlandske virksomheder, samt forslag om at forbyde brugen af TikTok.

Desuden har EU styrket sin "Code of Practice on Disinformation", som blev etableret i 2018 og forstærket i 2022. Formålet er at styrke indsatsen med at bekæmpe falske nyheder og misinformation på internettet, særligt på sociale medier og online platforme. Deltagende virksomheder forpligter sig til at træffe en række foranstaltninger for at bekæmpe desinformation.

Koden er et selvregulerende værktøj for online platforme og nøglespillere inden for blandt andet reklamebranchen. Det er en frivillig aftale, som er indgået mellem større online platforme, teknologivirksomheder, og annoncører i Europa. Den sigter mod at begrænse spredningen af misinformation og forbedre online-platformenes politikker på dette område.

Hvilke tanker har regeringen gjort sig at forhindre desinformation, AI-genererede deep fakes og nødvendigheden af at skærpe befolkningens kritiske tilgang?

Lisbeth Knudsen

Koden har vist sig at være et godt værktøj til at sikre større gennemsigtighed og ansvarlighed hos online-platforme og tilbyder en struktureret ramme for at overvåge og forbedre platformenes politikker vedrørende misinformation. Koden er tæt forbundet med lovgivningsinitiativer som Digital Services Act (DSA), og den understøtter EU's overordnede mål om at skabe et sikkert og pålideligt online miljø.

I forbindelse med det kommende valg til Europa-Parlamentet har også de europæiske faktatjekkere forberedt sig grundigt og samarbejder på tværs af landene om at afdække desinformationskampagner.

Disse foranstaltninger viser en betydelig interesse og indsats for at sikre, at misinformation ikke underminerer integriteten af det forestående valg til Europa-Parlamentet. I Danmark skal vi stemme til det valg den 9. juni i år.

Man fristes til at stille spørgsmålet: Hvilke tanker har regeringen gjort sig omkring det at forhindre desinformation, AI-genererede deep fake news videoer og nødvendigheden af at skærpe befolkningens kritiske tilgang til, hvad der måtte blive spredt på de sociale platforme i den anledning? Her kunne en opmærksomhedsskabende oplysningskampagne nok være på sin plads.