l’essentiel
En Australie, la chaîne de supermarchés « Woolworths » a dû réagir après que son assistant virtuel « Olive » s’est mis à se présenter comme une personne réelle, évoquant même de faux souvenirs familiaux. Un dysfonctionnement lié à un ancien script qui a mis mal à l’aise la clientèle de l’enseigne.
C’est l’histoire d’une intelligence artificielle qui s’invente une vie, alors que ce n’est pas du tout sa fonction. En Australie, l’enseigne de grande distribution « Woolworths » a lancé « Olive », un assistant en ligne chargé de répondre à toute heure aux demandes de ses clients. Problème : selon de nombreux usagers, l’intelligence artificielle a – semble-t-il – été mal configurée. L’outil s’est même mis à prétendre être une « personne réelle », parlant par exemple des « souvenirs de sa mère et de sa voix colérique ».
À lire aussi :
« L’IA va me prendre mon boulot… » Un roman graphique décrypte les idées reçues sur l’intelligence artificielle
Plusieurs utilisateurs ont signalé ce dysfonctionnement sur la plateforme Reddit : « Il m’a demandé ma date de naissance et lorsque je la lui ai donnée, il s’est mis à divaguer sur le fait que sa mère était née la même année », raconte l’un d’entre eux. Un second affirme que cette intelligence artificielle avait tenté de faire des blagues, prétendant être « une personne réelle » : « Le sentiment de malaise et la perte de temps inutile m’ont suffi pour détester Olive », critique un internaute.
Un script écrit en 2018
Un porte-parole de l’enseigne de grande distribution indique au sujet d’Olive que ses réponses au sujet des anniversaires des clients avaient été paramétrées par un employé humain : « Il y a plusieurs années, un membre de l’équipe a rédigé un certain nombre de réponses concernant les anniversaires afin qu’Olive puisse établir un lien plus personnel avec les clients », indique l’intéressé, précisant par ailleurs qu’Olive « existe depuis 2018 ».
Lors de la création de cet outil, « les commentaires des clients à son sujet ont été très positifs, beaucoup appréciant sa personnalité », ponctue le porte-parole. « Suite aux commentaires des clients, nous avons récemment supprimé ce script spécifique », souligne finalement le représentant de l’enseigne.
Woolworths indique par ailleurs avoir conclu un partenariat avec Google pour développer son intelligence artificielle. L’objectif : faire en sorte qu’elle propose davantage de services, comme une planification de repas en semaine.
Des précédents… en matière d’intelligence artificielle
Plusieurs intelligences artificielles ont déjà suscité la polémique après des comportements imprévus. En 2016, le chatbot « Tay« , lancé par Microsoft sur Twitter, avait été retiré en moins de 24 heures après avoir tenu des propos racistes et complotistes, influencé par des internautes malveillants.
Plus récemment, « My AI » de Snapchat a inquiété des utilisateurs en publiant un message incompréhensible sur son fil public. D’autres assistants conversationnels ont aussi été critiqués pour avoir inventé des faits ou adopté un ton trop humain, relançant le débat sur la supervision et la transparence des IA.