Tekoälyn tavassa käyttää lähteitä on ongelmia.
Googlen hakukoneen tekoälypohjaiset yhteenvedot hakutulosten yhteydessä ovat nykyisin arkipäivää. Niiden luotettavuudesta tehtiin nyt tutkimus.
Tekoäly-startup Oumin tekemän tutkimuksen mukaan noin joka kymmenes Googlen tekoälyvastaus sisältää virheellistä tietoa. Tekoäly on siis useimmiten oikeassa, mutta hakuvolyymin vuoksi virheellisiä hakutuloksia on valtavasti. Käyttäjät altistuvat yli 57 miljoonalle virheelliselle vastaukselle joka tunti – eli lähes miljoonalle väärälle vastaukselle joka minuutti.
Gemini ei siis ole täydellinen, mutta se on parantanut hiljalleen. Lokakuussa Gemini 2 vastasi oikein 85 prosenttia ajasta, ja helmikuuhun mennessä uusi Gemini 3 nosti luvun 91 prosenttiin.
Yksi suurimmista ongelmista on tekoälyn tapa käyttää lähteitä. Tutkimus paljasti, että linkitetyt sivustot eivät useinkaan tue tekoälyn tekemiä väitteitä.
Gemini 3:n myötä ristiriidat tekoälyn vastauksen ja sen ilmoittaman lähteen välillä nousivat 56 prosenttiin. Gemini 2 -versiossa luku oli vielä parempi 37 prosenttia, joten tässä kohtaa on menty huonompaan suuntaan.
Tekoäly myös toisti lähteiden vääriä tietoja. Tutkijat huomasivat, että esimerkiksi BBC:n toimittajan julkaisema tarkoituksellinen valhe päätyi Googlen tekoälyvastaukseksi jo seuraavana päivänä.