Snapchat har lagt en “venlig” ven i børnenes lomme – og det skal tages dybt alvorligt

De har justeret algoritmerne, så der bliver skruet op og ned for bestemte former for indhold. Og de har indsamlet data om alt fra vores lokation og vores kontakter til vores billeder i kamerarullen. Alt sammen uden at vi som brugere og forbrugere er blevet spurgt eller har haft mulighed for at gøre indsigelser.

Men måske er det tid til at gøre det nu. For den seneste app-tilføjelse er en ny lille ven, som er flyttet ind på Snapchat. 'My AI' hedder den, og den er en chatrobot baseret på den samme teknologi som ChatGPT.

Umiddelbart er den både venlig og lidt hyggelig, og den er god til at indlede samtaler om det, der nu interesserer brugeren af app'en. Faktisk vil den typisk lægge ud med at spørge brugeren – som ofte er et barn – om, hvad vedkommende interesserer sig for, hvilken slags musik man hører og lignende.

Det er naturligvis ikke tilfældigt, for jo mere information, robotten fodres med, des bedre kan den indgå i, hvad der føles som reel interaktion.

Som med alt andet i mediehistorien findes der adskillige eksempler, der kan trækkes frem til sammenligning. Såkaldt intelligent legetøj har været på markedet i årtier.

Den videre dialog om emnet skal tages på et informeret grundlag, der ikke blot hopper med på den seneste tids unuancerede debat om 'skærme'

Stine Liv Johansen

Fra 1990'erne og et par årtier frem var det lille plastikdyr Tamagotchi et stort hit blandt børn og unge, der knyttede sig tæt til den digitale legekammerat og sørgede for, at den fik mad og udviklede sig, som den skulle. Dukken My Friend Cayla, en internetforbunden dukke, der blev introduceret i 2014 – og i øvrigt forbudt i Tyskland i 2017 – vandt priser for årets legetøj.

Det er altså ikke nyt, at børn interagerer med digitale figurer, der i legen opfattes som levende. Det er absolut heller ikke nyt, at voksne ser på legen med hovedrysten og bekymring. Men My AI adskiller sig alligevel fra de tidligere eksempler.

Den er installeret på telefonen og optræder på Snapchat-app'en som en ven på linje med de andre venner. Den introducerer sig selv som "venlig" og tillader brugeren at personificere dens udseende med frisurer og fedt tøj.

Til gengæld gør den det besværligt – formentlig umuligt – for ikke-betalende Snapchat-brugere at slette den. Den er med andre ord svær at komme udenom og måske også let at komme til at holde af. Samtidig er den med i lommen eller tasken hele tiden og klar til at sludre 24 timer i døgnet.

Der er behov for, at vi tager introduktionen af My AI alvorligt. Dels som en samlet diskussion om, hvad vi skal stille op med kunstig intelligens i det hele taget. Og dels som en konkret og konstruktiv diskussion af, hvad vi skal stille op her og nu, både som forældre, fagpersoner og politikere med ansvar for relevant lovgivning på området.

Det kræver helt grundlæggende refleksioner over relationen mellem menneske og maskine, og det tvinger os til at stille spørgsmål til vores opfattelse af menneskelig skaben, kreativitet, ophavsret og en række andre aspekter, der påvirkes af teknologier som ChatGPT, Replika, Dall-E med flere.

Der har været stillet forslag om at sætte brugen af kunstig intelligens i bero med øjeblikkelig virkning og på globalt plan, indtil vi er mere sikre på, hvilken vej vi ønsker, at udviklingen skal gå.

Tilsvarende har for eksempel danske universiteter forbudt brugen af eksempelvis ChatGPT i eksamenssammenhæng – igen med henvisning til at vi er nødt til at tænke os om og udvikle brugbare retningslinjer for brugen.

En sådan tænkepause forekommer relevant, men også urealistisk at opretholde over længere tid. Derfor haster det med politisk stillingtagen og udmeldinger, der kan rumme de nye teknologiers kompleksitet.

I det lys hilser jeg SF's udspil velkomment som et bud på, hvor opmærksomheden skal rettes hen. Men den videre dialog om emnet skal tages på et informeret grundlag, der ikke blot hopper med på den seneste tids voldsomme og unuancerede debat om 'skærme' i børn og unges liv. Og så skal regulering og oplysning gå hånd i hånd.

Det haster også med at få klædt forældre, lærere og pædagoger på til at tage den kærlige og kritiske dialog med børn og unge om den nye bedste digitale ven.