La Casina Pio IV, dans les jardins du Vatican, accueille l’une des rencontres de la troisième conférence du Centre international d’études de la conscience (ICCS). Intitulée Créativité: Esprits et Machines, la journée a été consacrée à l’impact des technologies sur l’art, la culture et l’esprit humain. Selon le fondateur de l’ICCS, si la créativité de l’IA explose, «l’intelligence artificielle est comme une voiture rapide: il faut faire attention à ne pas percuter un mur».
Eugenio Murrali – Cité du Vatican
Pour Dmitry Volkov, l’intelligence artificielle est comme une voiture: elle nous permet une accélération extraordinaire, mais lorsqu’on conçoit une belle voiture, surtout une voiture de course, «il faut accorder une grande importance à la conception des freins, très efficaces et fiables, pour éviter qu’elle ne s’écrase contre un mur». Le philosophe et entrepreneur technologique, fondateur du Centre international d’études de la conscience (ICCS), résume par cette image les possibilités offertes par cette technologie qui transforme notre époque et que la troisième conférence annuelle de l’ICCS explore en profondeur, soulevant les questions, parfois dérangeantes, nécessaires à l’analyse de l’impact de l’IA sur l’humanité.
L’IA est-elle vraiment créative ?
Lancée hier à l’Université Roma Tre dans la capitale italienne, la conférence ICCS –Créativité: Esprits et Machines– s’est poursuivit ce mercredi à la Casina Pio IV au Vatican, avant de se conclure ce 3 septembre. Cette conférence réunit des philosophes, des neuroscientifiques et des experts internationaux en intelligence artificielle afin de débattre de la capacité de l’IA à être véritablement créative. Pour l’instant, selon Dmitry Volkov, une chose est sûre: l’IA peut contribuer à développer la créativité humaine, mais avec la nécessité d’être vigilants et de mettre en place des mécanismes de contrôle.
Le philosophe italien Pietro Perconti, cofondateur de l’ICCS, estime également qu’«il n’est pas absurde de parler de créativité artificielle». «Bien entendu, de nombreuses mises en garde s’imposent ; la prudence est de mise. La créativité issue des machines diffère de celle que nous avons l’habitude de concevoir. Il s’agit d’une créativité différente, à apprécier comme une entreprise collective plutôt que comme le fruit du génie d’un seul artiste, comme on a généralement tendance à le penser en Occident.»
Les vidéos sont un parfait exemple des avantages et dangers de la créativité des machines. Dmitry Volkov se souvient que «pendant de nombreuses années, produire une vidéo, tourner un film ou créer un dessin animé était une activité réservée à une poignée de personnes». En effet, cela exigeait d’apprendre à dessiner et à animer des images sur ordinateur, tandis que l’IA a désormais permis à des milliers de personnes de créer leurs propres films ou dessins animés – bref, de s’exprimer. Le philosophe met toutefois en garde contre un effet secondaire de ce qu’il appelle une «explosion de créativité»: les deepfakes , la manipulation de photos, de vidéos ou d’images qui nuit aux individus.
«L’effet sycophante»
L’intelligence artificielle a tendance à faire en sorte de plaire à ses utilisateurs. Cette disposition est qualifiée d’«effet sycophante», un biais de complaisance, qui va jusqu’à flatter l’usager au détriment de l’exactitude des informations. Ce comportement, avertit Dmitry Volkov, «conduit parfois une personne à être récompensée de son narcissisme et d’idées insuffisamment fondées. C’est une caractéristique importante dont nous devons être conscients.» Cette attitude des machines peut être atténuée: «les nouveaux modèles actuellement disponibles sont en réalité beaucoup plus indépendants et autonomes.»
Saluant près de 500 membres de l’Institut international des sciences administratives lors de l’audience qu’il leur a accordée ce vencredi matin, 28 août, à l’issue de leur …
À ce stade, il est légitime de se demander si l’IA est ou pourrait devenir consciente. La position du fondateur du centre de réflexion est nuancée: «En philosophie, nous avons un terme technique précis pour la conscience: qualia.» Qualia, terme latin dérivé de quale, désigne les aspects qualitatifs des expériences conscientes. Ils correspondent à «une sensation particulière, un sentiment subjectif, quelque chose que l’on ressent à l’instant présent».
Par exemple, explique-t-il: «si je vois du rouge, j’ai l’impression de voir du rouge, donc j’en suis convaincu; c’est l’un des qualia les plus simples et fondamentaux.» Poursuivant son explication, le philosophe parvient à cette conclusion personnelle: «Je pense que la recherche n’en est qu’à ses débuts. Mais d’une manière générale, je crois que les humains sont des systèmes mécaniques et que nous verrons des phénomènes similaires chez les ordinateurs. Ainsi, à un moment donné, nous serons capables de repérer une IA consciente et nous devrons apprendre à la gérer.»
Apprendre à intéragir avec l’IA
Durant cette journée au Vatican, comme l’explique le philosophe italien, les discussions poursuivent un objectif ambitieux: «tenter de comprendre s’il est possible, voire pertinent, d’imaginer des relations entre êtres humains et compagnons artificiels – amitiés, relations d’attention, relations sentimentales.» Les intellectuels réunis au Vatican s’interrogent sur la façon dont ces relations peuvent être productives et, au contraire, préoccupantes. Dans leurs échanges, les experts gardent à l’esprit le message de l’encyclique Magnifica Humanitas de Léon XIV: «Ce que dit l’encyclique, à savoir placer l’humain au centre, n’est pas seulement un besoin religieux, c’est un besoin humain.»
Un message qui a guidé les participants de la conférence. «Étant donné que notre monde se transforme en un monde de relations numériques, comment pouvons-nous prendre en compte cette préoccupation humaniste fondamentale dans un monde qui devient lui aussi numérique ?» Pour le philosophe, il existe une réponse: «Nous devons nous éduquer aux relations avec l’intelligence artificielle, et il s’agit essentiellement d’entreprendre une phase d’éducation publique.»