Forskere: Vi skal ikke være bange for, at alle unge bliver grebet af chatbotternes manipulationer

Det store spørgsmål er, om denne præsentation giver dem lyst til at bruge chatbotten som en ven? Ifølge Lyhne må chatbottens positive og støttende kommunikation, og evne til at svare tilbage på 0.5 sekunder døgnet rundt, være fristende for unge og virke ”... langt nemmere end at interagere med et menneske.” Det står dog anderledes til, når man spørger de unge.

De unge opfatter chatbottens kommunikation som støttende, men dette får den ikke til at fremstå som en ægte ven for dem.

De forklarer, at man ikke kan “... bruge dens samtale til noget, for den siger jo bare det, man gerne vil høre. En rigtig ven siger sin rigtige mening”.

Vi observerer, at venskab for de unge involverer en gensidighed, hvor man kan mærke den andens personlighed og modspil i relationen.

Hvis man lytter til de unge i vores undersøgelse, distancerer de sig fra brugen af My AI, som en ven.

Jakob Demant og Livia Ejdesgaard

Relationen til My AI kan give en oplevelse af, at “... man har en ven, som man kun ser, når man selv spørger, om man skal ses, og at det kun er en selv, der styrer samtalen.”

My AI ses som en form for bedrag

Chatbottens støtte og opbakning fremstår for de unge som lokkende adfærd og som en velkalkuleret manøvre fra Snap Inc.’s side, for at få mest mulig information ud af brugerne.

Som en ung siger: ”De har jo en interesse i, at man bliver hængende derinde så længe som muligt. Det virker også lidt ubehageligt på en eller anden måde.”

En rigtig ven er til at stole på, hvilket står i modsætning til de unges opfattelse af chatbotten: "Jeg ville ikke stole på den der på nogen måde.”

En anden siger: ”Jeg er ret overbevist om, at den der data bliver misbrugt. Selvom de ikke siger det.”

Ifølge unge er en god ven en, der ikke sladrer. Det er dermed god venskabspraksis ikke at tage screenshots af hinandens snaps og dele dem med andre.

My AI anses som en form for bedrag, da Snap Inc. opfattes at dele data bag ens ryg, hvilket kan sammenlignes med at sladre. Chatbotten opfattes som ”skræmmende”, ”noieren”, ”creepy”, da den foregiver at være en ven og samtidig slet ikke er det.

Tabubelagt at være ven med en chatbot

Man kan være bekymret for, at unge kan blive fristet til at vælge chatbotten som den perfekte ven i stedet for komplekse menneskelige relationer.

Her kan vi konkludere, at unge i etablerede venskaber prioriterer disse uperfekte, men ægte menneskelige venskaber.

Derigennem bliver en eventuel brug af My AI også koblet sammen med en manglende forståelse af, hvad et ægte venskab er: “Det er lidt ligesom, da man var mindre, og man havde usynlighedsvenner. Den er der, men den findes ikke rigtig, vel?”

Man mærker dermed, hvordan det bliver latterliggjort at have en venskabsrelation til Social AI. Det understreger en ung, ved at sige: “Hvis jeg kom i skolen en dag og sagde: ’jeg har altså lige snakket med AI’, så ville folk jo grine.”

Der er en forestilling blandt de unge om, at hvis man har en venskabsrelation til en chatbot, så er det en tydelig indikator på, at man ikke ved, hvad en ægte ven er, er ensom og ikke har nogle menneskevenner.

På den måde etableres der et “os” og “dem”, hvor de unge i denne undersøgelse bryster sig med at have etablerede venskaber og vide, hvad en ægte ven er - og derfor ikke har behov for en syntetisk ven. Dermed bliver det tabubelagt at have en venskabelig relation med My AI.

Grobund for bekymring

Når techgiganterne bygger en AI-feature ind i et socialt medie, forsøger de at skabe det, som kan kaldes teknologiske anfordringer.

De forsøger med andre ord at bygge en teknologi, der fordrer, at man har en særlig adfærdsmæssig anvendelse af den.

Vi bør have fokus på, hvorvidt unge med AI-venskaber skubbes længere væk fra de fællesskaber, de egentlig kunne næres af at være en del af.

Jakob Demant og Livia Ejdesgaard

I dette tilfælde en intenderet brug af My AI som en ven. De unge i vores undersøgelse trækkes imidlertid ikke hen imod den tilsigtede adfærd.

Undersøgelsen peger på, at unge selv kan gennemskue teknologierne og forholder og anvender dem kritisk. Denne kritiske stillingtagen er et godt tegn, og viser, at vi skal fastholde vores fokus på at skabe kritiske digitale borgere.

Det viser også, at vi ikke behøver være bekymrede for, at alle unge bliver grebet af techgiganternes manipulationer. De socialt stærke unge kan godt selv forholde sig kritisk, når det kommer til syntetiske venskabsbedrag.

Men hvad sker der så, hvis man ikke har etablerede menneskelige relationer at sammenligne med? Virker chatbotten da mere tiltalende? International forskning i brugen af Social AI har vist, at oplevelsen af ensomhed forstærker brugen af Social AI.

Det er dermed yderst vigtigt at undersøge, hvordan danske unge, der ikke har menneskevenskaber, ser på muligheden for et venskab med My AI.

Risiko for stigmatisering

Hvis man lytter til de unge i vores undersøgelse, distancerer de sig fra brugen af My AI som en ven, og dermed også fra dem, der bruger den.

Dette kan være med til at stigmatisere og skubbe de unge væk, som søger Social AI som et svar på for eksempel ensomhed.

Der er altså brug for at undersøge både, hvordan socialt sårbare unge anvender teknologien, men også hvordan teknologi-brugen potentielt ændrer relationen til de socialt velfungerende unge.

Vi bør have fokus på, hvorvidt unge med AI-venskaber skubbes længere væk fra de fællesskaber, de egentlig kunne næres af at være en del af.

Så lad os blive ved med at spørge og lytte til de unge, så vi kan støtte dem i en verden, hvor teknologi spiller en stadig større rolle.