Le pape Léon XIV présente sa première encyclique en insistant sur les dangers de l’IA

« Désarmer » l’intelligence artificielle pour « l’empêcher de dominer l’humain »: le pape Léon XIV appelle à réguler les algorithmes dans son premier document majeur publié lundi par le Vatican. Il dénonce les « nouvelles formes d’esclavage » liées à leur essor fulgurant.

Ecologie, crise du multilatéralisme, monopoles économiques: dans « Magnifica Humanitas » (Humanité magnifique), un texte de 130 pages à la tonalité profondément sociale, le pape américain répond à une multitude de défis de notre époque en se posant en défenseur de la dignité humaine à l’ère de la révolution numérique.

Dans cette encyclique très attendue – une lettre adressée à l’ensemble des fidèles, fixant une position de référence sur des questions sociales, morales ou théologiques – Léon XIV appelle à dépasser le concept de « guerre juste » invoqué notamment par l’administration américaine de Donald Trump et dénonce la délégation de décisions létales à la technologie.

>> Les précisions dans le 19h30 : Le Pape Léon XIV publie une encyclique consacrée à l’intelligence artificielle / 19h30 / 2 min. / hier à 19:30

Signe de l’importance accordée à ce manifeste, le pape participe lui-même à sa présentation lundi matin – une première – aux côtés de hauts responsables du Saint-Siège et d’experts de l’IA, dont le cofondateur de la start-up américaine Anthropic.

Un code éthique commun

L’IA ne pouvant « être considérée comme moralement neutre », il convient de la « désarmer » pour « l’empêcher de dominer l’humain », avance le pape augustinien, qui insiste sur la nécessité d’un code éthique commun sur l’IA ainsi que sur le rôle crucial de l’éducation pour apprendre à en maîtriser les risques.

Aujourd’hui, « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques » qui « fixent les conditions d’accès, les règles de visibilité et les possibilités de participation », regrette-t-il.

>> Ecouter les explications dans Forum : Le pape Léon XIV appelle à désarmer l’intelligence artificielle pour protéger l’humain / Forum / 3 min. / hier à 19:00 « Nouvelles formes d’esclavage »

Citant Platon, JRR Tolkien, Picasso ou encore Beethoven pour leur contribution à lutter contre la déshumanisation, le pape américain fustige aussi « les nouvelles formes d’esclavage » nées pour extraire les ressources nécessaires à l’utilisation de l’intelligence artificielle (IA) et appelle à « des solutions technologiques plus durables afin de réduire l’impact sur l’environnement ».

Le pape Léon XIV appelle à réguler les algorithmes dans son premier document majeur publié lundi par le Vatican. [AFP – ALBERTO PIZZOLI]

« Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s’interrompe pas », dénonce-t-il.

L’évêque de Rome en profite pour demander « sincèrement pardon » pour le retard avec lequel l’Église a condamné « le fléau de l’esclavage » au cours de l’Histoire.

Au-delà des enjeux technologiques, le pape s’inquiète d’un risque de « déshumanisation », mettant en garde contre une vision de l’humain réduit à ses performances ou à des données exploitées par les machines.

Depuis son élection il y a un an, le premier pape nord-américain de l’Histoire a multiplié les avertissements face aux dangers de l’IA, en soulignant la nécessité d’une « alphabétisation numérique ».

Condamnation de l’IA dans le domaine militaire

Abordant la crise du multilatéralisme, le chef de l’Eglise catholique renouvelle sa condamnation de l’utilisation de l’IA dans le domaine militaire. « Aucun algorithme ne peut rendre la guerre moralement acceptable », écrit-il.

Sans citer aucun nom, il réaffirme « le dépassement de la théorie de la ‘guerre juste’ trop souvent invoquée pour justifier n’importe quelle guerre », un concept défendu notamment par l’administration américaine de Donald Trump, regrettant que « l’humanité (soit) en train de glisser vers une culture violente de la puissance » qui normalise la guerre comme un « instrument de politique internationale ».

>> Les explications de Valérie Dupont dans le 12h45 : Encyclique du Pape Léon XIV : explications de Valérie Dupont. / 12h45 / 1 min. / hier à 12:45

agences/lan