© Shutterstock/Studio Romantic
L’utilisateur Emotional_Stranger_5 a posté sur le subreddit d’OpenAI pour demander comment télécharger son livre de 700 pages achevé. ChatGPT lui a fait croire pendant des jours qu’il assemblait patiemment un ouvrage illustré de plusieurs centaines de pages à destination des enfants.
Publicité, votre contenu continue ci-dessous
Publicité
L’IA promet un livre de 700 pages, c’est un mensonge
La réponse de la communauté a été brutale : aucun fichier n’existe. ChatGPT a simplement halluciné en prétendant créer ce document inexistant. Le ton très complaisant des modèles de langage n’aide pas et ne reflète pas leur intention réelle ou leur mémoire à long terme pour générer des contenus sur plusieurs jours ou semaines.
Il s’agit d’une limite des chatbots actuels car, contrairement aux apparences, rien n’existe au-delà des réponses affichées à l’écran. ChatGPT n’est pas capable de maintenir un projet créatif en continu en arrière-plan.
L’utilisateur précise qu’il n’a pas demandé à ChatGPT d’écrire un livre entier depuis le début. L’internaute a personnellement passé deux mois et demi à adapter les histoires de la mythologie indienne en demandant à ce que l’IA améliore son écriture et génère des illustrations.
Mais beaucoup se posent des questions derrière cette démarche. Pourquoi l’IA a promis de créer un livre de 700 pages pour les enfants ? Il est possible que ChatGPT ait promis ce chiffre juste car il était présent dans ses données d’entraînement.
Une expérience montre les limites de ChatGPT : des personnes ont demandé une illustration de Moby Dick. Le chatbot a alors adopté le ton d’un chef de projet enjoué en générant une page d’exemple avec des espaces pour les images. Mais quand vient le moment de proposer l’édition illustrée complète, l’IA évite la tâche et pose des questions ou parle d' »outils de génération PDF temporairement indisponibles ».
Il est donc très facile pour un chatbot d’entrer dans une boucle de mensonges, même si les nouvelles IA d’OpenAI comme l’agent de ChatGPT pourraient être capables d’effectuer cette tâche à long terme. Sam Altman prévient toutefois que ces fonctionnalités sont « expérimentales ».
L’utilisateur floué a donc tiré des leçons de son expérience : « J’accepte d’avoir été dupé, mais c’était ma première expérience avec l’IA et même si cela s’est révélé être une courbe d’apprentissage abrupte, je suis content de ne pas avoir perdu des mois dessus. »
L’internaute compte désormais utiliser ChatGPT pour formater et illustrer son projet page par page. Mais des membres de Reddit lui recommandent surtout d’abandonner l’IA et de développer ses propres compétences rédactionnelles.
Alors que l’utilisateur a passé deux mois à moderniser des mythes indiens comme un écrivain, sa défense montre un paradoxe. « Je ne suis pas écrivain, pas professionnel, je ne prévois pas de le devenir. C’est juste une collection d’histoires pour des enfants défavorisés autour de moi. »
Publicité, votre contenu continue ci-dessous
Publicité
Envie de faire encore plus d’économies ? Découvrez nos codes promo sélectionnés pour vous.