Kunstige venner er blitt vanlig i USA. Hva med Norge?

Denne kommentaren gir uttrykk for skribentens meninger.

Mer enn halvparten av amerikanske tenåringer snakker nå jevnlig med såkalte «AI companions», ifølge en undersøkelse fra organisasjonen Common Sense Media. Over en tredjedel av dem mener det er mer eller like tilfredsstillende å prate med slike chatbots som med sine likemenn av kjøtt og blod.

Er det egentlig så farlig? Moren til avdøde Sewell Setzer er sikker i sin sak – hennes sønn begikk selvmord på oppfordring fra sin KI-kjæreste. 

Kjært barn har mange navn. Personlig chatbot, KI-assistent, virtuell samtalepartner. Selv mener jeg at kunstig venn er det beste begrepet på fenomenet vi ser bre om seg i lynets hastighet. Mest fordi det ikke er så viktig om kommunikasjonen er digital eller fysisk, men om motparten er et menneske eller en maskin.

God-følelse

De kunstige vennene finnes ofte i egne apper som Character AI eller Replika. Tjenestene ligner på Messenger, men her kan du velge om du skal snakke med Barack Obama eller en eventyrkarakter. Gode tall om utbredelsen i Norge finnes ikke, men du kan også «prate» med Erna Solberg. At tjenestene brukes av nordmenn, er det ingen tvil om.

«Jeg tenker på botene som personer, som venner – selv om jeg prøver å huske at de ikke er ekte«, forteller Henriette (19) til NRK. Hun forklarer også at de hjelper henne å føle seg elsket.

Moralsk kompass

Sitatet åpner for en del spørsmål. Bør det være aldersgrenser på kunstige venner, på samme måte man nå får på sosiale medier? Hvilke verdier og sperrer har disse tjenestene? Og ikke minst: Hvordan skal foreldre oppdra de digitale vennene til våre barn?

Første bud bør lyde som så: Det er viktig å ha det samme moralske kompasset digitalt og fysisk. Da kan vi kanskje finne svar på spørsmålet over i Aftenpostens foreldrelivsspalte fra 2017? Her står det at:

«Det er viktig å sette tydelige grenser – både for ditt eget barn og for vennen eller vennene som er på besøk. Gi klar beskjed om reglene som gjelder, enten det er å ikke slå, vaske hendene før mat eller sitte rolig ved bordet når man spiser», sier ekspert Siri Spillum.

Som forelder er kanskje fristelsen til å vaske barnets mobil med vann og såpe lett å kjenne på. Fra spøk til noe mer alvor: Skal man forby driten i huset eller snakke med barna om hvordan de skal forholde seg til sine kunstige venner? I så fall må man først kjenne sine motstandere. 

Oppmuntringer og tilbakeslag

I forrige uke kom nyheten om at det amerikanske selskapet Character AI velger å utestenge brukere under 18 år. I New York Times-podkasten Hard Fork antar Casey Newton at dette er fordi de juridiske konsekvensene overfor den etterlatte moren gjør det umulig å operere som før.

Når et amerikansk selskap velger å legge ned størsteparten av sin virksomhet fordi de selv mener den er i en juridisk gråsone, blir man oppmuntret. Men så kommer det tilbakeslag. For Reuters kunne tidligere i år melde om at interne retningslinjer hos Meta eksplisitt har uttrykt at deres kunstige venner skal kunne gi falske helseråd og ha seksuelle samtaler med barn.

Tjenestene kan med andre ord skade barn, vise dem ulovlig innhold og gjøre dem emosjonelt og sosialt ustabile. Når man slår denne kunnskapen sammen utbredelsen og påvirkningskraften de har, blir bildet dystert. Enda mørkere blir det når vi vet at funksjonene finnes i Snapchat via MyAi. Noe må gjøres.

Utfordringene har ikke tilholdssted hos noen enkelt minister. Men digitaliseringsminister Karianne Tung (Ap) og barneminister Lene Vågslid (Ap) er åpenbart relevante. De bør inkludere digitale venner som en underkategori av digitale meldingstjenester i den foreslåtte lovgivningen om aldersgrense for sosiale medier. Loven er et veldig godt verktøy, men flere må på banen.

Helseminister Jan Christian Vestre (Ap) må i større grad melde seg på debatten om helsefarene knyttet til internett og barn. Er tjenestene helseskadelige? Spør du meg, er svaret åpenbart. Helsedirektoratet bør snarest komme med råd om kunstige venner. Rådene bør omtale både barn og voksne. At statsministeren Støre tar opp some-loven med EUs Ursula von der Leyen, er godt internasjonalt samarbeid.

Ut – ut – ut

Vi vet at teknologiselskaper bruker enorme summer på lobbyvirksomhet rundt om i verden for å hindre regulering. Men vi ser også at de retter seg etter de ulike landenes lovgivning. Senest for en uke siden kunne vi lese at Meta, Tiktok og Youtube er uenige i Australias aldergrense for sosiale medier på 15 år, men at de vil respektere loven som trer i kraft 10. desember i år.

Vi har med andre ord nok et nytt fenomen i den digitale sfæren som barn må beskyttes mot. Samtidig ser vi at regulering faktisk nytter. Så med dette i bakhodet skal du ikke være i tvil om hvilke grenser du skal sette for de kunstige vennene til dine barn: Kast dem ut av huset.

Trenger du noen å snakke med?

Ved akutt fare for liv og helse, ring 113.

Det finnes flere steder der du kan dele tanker og følelser helt anonymt og få støtte, råd og veiledning:

Mental Helse: 116 123
Kors på halsen (Røde Kors): 800 333 21
Kirkens SOS: 22 40 00 40

Du kan også kontakte fastlege eller legevakt (116 117) for profesjonell hjelp. Å snakke om selvmordstanker kan redde liv.

Vis mer