Terveyteen liittyvissä asioissa tekoälyn tuottama tieto ei korvaa terveydenhuollon ammattilaisen arviota.
Google antaa nykyisin joidenkin hakujen kohdalla tekoälyn luoman yhteenvedon. Se voi antaa monenlaista informaatiota, muun muassa terveyteen liittyviä tietoja.
The Guardian teki selvityksen, minkälaista terveystietoa Googlen tekoäly-yhteenveto tarjoaa. Tulokset eivät ole omiaan ainakaan lisäämään luottamusta tekoälyn jakamaan tietoon.
Googlekin myönsi, että tekoäly voi tulkita verkkosisältöjä väärin tai ymmärtää kontekstin väärin. Jutussa nostettiin esiin useita tapauksia, joissa Googlen tekoälykoosteet antoivat virheellisiä neuvoja.
Esimerkiksi haimasyövän kohdalla tekoäly kehotti potilaita välttämään rasvaista ruokaa. Todellisuudessa haimasyöpäpotilaat tarvitsevat usein juuri runsasenergista ja rasvaista ravintoa pysyäkseen tarpeeksi hyvässä kunnossa hoitoja varten.
Kysyttäessä maksatestien tuloksista, tekoäly ei huomioinut potilaan kansallisuutta, ikää, sukupuolta tai etnisyyttä. Se oli omiaan antamaan tekoälykoosteen lukeneelle väärän turvallisuudentunteen, eikä jatkotutkimuksiin näin ollen välttämättä hakeuduta.
Mielenterveyttä koskevissa tekoäly-yhteenvedoissa havaittiin neuvoja, joita asiantuntijat pitivät suorastaan vaarallisina. Osa vastauksista saattoi johtaa avun hakemisen viivästymiseen tai ohjata käyttäjiä epäluotettaville verkkosivuille.
Google puolustautui toteamalla, että suurin osa AI Overviews -yhteenvedoista on paikkansapitäviä ja että virheisiin puututaan jatkuvien laadunparannusten kautta. Yhtiön mukaan tekoäly-yhteenvedot ovat tarkkuudeltaan samalla tasolla kuin jo yli vuosikymmenen käytössä olleet faktalaatikot.
LUE MYÖS: YouTube täyttyi tekoälymoskalla ja aivomädällä – kanavat tuottavat miljoonia – Muropaketti.com