Kui kirjutate arstile e-kirja, kus on väike kirjaviga või ütled, et «vist on midagi viga», võib vestlusrobot soovitada sul hoopis mitte arsti juurde minna.
See pole ulme, vaid MITi teadlaste kinnitusel väga reaalne risk, mis puudutab miljoneid inimesi.
Selgus, et tehisaru kipub eksima rohkem siis, kui keel on eluline, emotsionaalne või veidi lohakas – just nagu inimestel tihti kombeks.
Veelgi muret tekitavam on asjaolu, et mudelid kohtlevad naisi ja vähemusi halvemini, isegi kui tekst ei viita otseselt soole või rassile.
Üksainus kirjaviga, vormindusviga või slängisõna suurendab tõenäosust, et tehisaru ütleb patsiendile, et ta ei ole haige või et ta ei pea arsti poole pöörduma.