KUNSTIG INTELLIGENS

På Googles KI-oppsummeringer står det informasjon som angivelig er hentet fra Store norske leksikon. Men det stemmer ikke, sier sjefredaktør Erik Bolstad. 

— Det bør innføres redaktøransvar når man prakker på folk KI-genererte tekster de ikke har bedt om, mener sjefredaktør i Store norske leksikon, Erik Bolstad.
Foto: Ketil Blom Haugstulen

— Det er et demokratisk problem når man får systematisert desinformasjon, som dette i mange tilfeller kan bli, i verdens mest brukte nett-tjeneste, sier Erik Bolstad, sjefredaktør i Store Norske Leksikon (SNL) til Khrono. 

Det siste året har Google introdusert KI-sammendrag, hvor brukeren kan stille et spørsmål i søkemotoren og få opp et sammendrag lagd av generativ kunstig intelligens, med henvisning til kilder. 

Men det som står i teksten og i kilden samsvarer ikke alltid, noe Bolstad er svært kritisk til. Spesielt når Google oppgir SNL som kilde i sammendragene de skriver. 

— Det var en sopp vi ble oppgitt som kilde på at dersom man koker den veldig lenge, er den ikke giftig å spise. Vi skriver at man må for guds skyld ikke spise soppen, for da dør man. Det er et gammelt kjerringråd at man kan koke soppen lenge og gjøre den spiselig, sier Bolstad. 

Khrono har kontaktet Google Norge for kommentar, og kommunikasjonssjef i Google Norge Sondre Ronander skriver i en e-post at han ikke har noe å tilføre.

Teksten stemmer ikke med kilden

«Vi blir oppriktig bekymret for norsk kunnskapsberedskap når Google finner opp tekst, oppgir oss som kilde og dermed utnytter vår kredibilitet» skrev Bolstad nylig i et debattinnlegg i Aftenposten. 

Leksikonsjefen mener teksten i Googles oppsummeringer genereres først, og kildene blir lagt til i etterkant. Da blir det tilfeldig hvilke kilder som siteres på det som står i teksten, og hvorvidt det stemmer eller ikke. 

— Det er et kjempeproblem at hvis hundre mennesker skriver et spørsmål i Google så får de hundre forskjellige svar. Det gjør det vanskelig å få til debatt. Du kan ikke drive kildekritikk av noe som viser til én person og så er det borte.

Flere ganger har SNL blitt sitert på noe som ikke stemmer, som at forfatteren Nikolaj Gogol var russisk, når det står i leksikon at han er en russiskspråklig forfatter med ukrainsk opphav.

I andre tilfeller er det snakk om små feil, men likevel samsvarer ikke tekstene til Google med det den påstår at står i Store norske leksikon. Det styrker Bolstads mistanke om at teksten er generert først uten at det har noen sammenheng med kildene den siterer. 

Bør ha redaktøransvar

— Mange, også i akademia, tenker at KI-sammendragene er en oppsummering av kildene den henviser til. Det er det ikke, sier Bolstad.

Tidligere siterte Google tekst hentet direkte fra andre nettsider i toppen av søkefeltet. Endringen til at kunstig intelligens genererer slike tekster, kan ha gått brukerne hus forbi, mener Bolstad.

— Når man bruker ChatGPT eller Claude har man gjort et aktivt valg om å benytte seg av kunstig intelligens og vurderer kildene deretter. Men når man går til Google og er vant til å få opp søkeresultater, så har man ikke slått på bevisstheten i samme grad, sier Bolstad.

Selv om kunstig intelligens kan brukes til mange ting, er ikke en språkmodell det samme som en kunnskapsmodell, mener Bolstad:

— Det bør innføres redaktøransvar når man prakker på folk KI-genererte tekster de ikke har bedt om.

Hos SNL brukes ikke kunstig intelligens til å generere tekst.

— Vi har reist fanen ganske høyt. Alle som er fagansvarlige og forfattere hos oss har fått ekstremt tydelig beskjed om at det er absolutt forbud mot å bruke KI til å generere innhold. Vi tror vi nå er den største tekstbasen i Norge som er helt ubesudlet av kunstig intelligens. 

Endringslogg. 27. november kl 14:10 er det lagt inn svar fra Google Norge.