Prenant appui sur la doctrine sociale de l’Église, Léon XIV pose plutôt des grands critères de discernement, pour que l’IA ne soit pas évaluée à travers son efficacité, mais par la manière dont elle pourrait – ou non – respecter et faire grandir la dignité de chaque personne humaine.
L’IA peut avoir tort et pourtant vous convaincreDans les pas de Léon XIII
Il y a 135 ans, Léon XIII inaugurait cette doctrine sociale, corpus de réflexion abordant les conditions avec lesquelles la révolution industrielle de son époque pouvait servir la dignité de chacun. Après avoir repris le prénom de ce prédécesseur, le jeune pape américano-péruvien applique donc cette doctrine au regard des défis contemporains que pose l’IA. Il définit et déploie en ce sens les principes du bien commun, de la destination universelle des biens ou de la justice sociale qui doivent guider le développement de la technique.
Au long de 130 pages, le Pape balaye de nombreux défis que l’IA pose à l’humanité (éthiques, environnementaux, militaires, sociaux…). « Nous ne pouvons pas considérer l’IA comme moralement neutre », souligne-t-il. Tout ne dépend donc pas de l’utilisation que nous en ferions individuellement. Si l’éducation à l’IA est indispensable, si des réglementations pour l’encadrer le sont tout autant, elles ne suffisent pas. « L’IA doit être désarmée et rendue accessible », insiste le Pape.
« Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain », souligne le pontife, pour qui « la course à l’algorithme le plus performant et à la banque de données la plus vaste » n’a souvent pour objectif que de « consolider un avantage géopolitique ou commercial sur tous les autres ».
À ses yeux, il faut « rompre cette équivalence entre la puissance technique et le droit de gouverner ». « Quand ces biens restent concentrés entre les mains de quelques-uns, sans formes adéquates de partage et d’accès, il se crée un nouveau déséquilibre […] alimentant le fossé entre les inclus et les exclus. »
« Les développeurs portent donc une responsabilité éthique et spirituelle particulière, car chaque choix de conception exprime une vision de l’humanité. […] Ils sont appelés à traiter avec le sérieux qui s’impose les valeurs qu’ils insufflent à leurs projets : avec transparence, avec responsabilité envers les communautés impliquées et en veillant à vérifier que ce qui est cultivé est véritablement un bien. »
Ce que nous ne pouvons pas perdre
Derrière les critères posés par le pape pour penser une IA orientée vers le bien, c’est aussi une ode à ce qui est proprement humain que déploie l’encyclique. Et à ce qu’il ne faut donc pas perdre. Le cœur de l’humanité, c’est la capacité de relation et de communion entre les personnes. Or, insiste le pape en guise de mise en garde, parmi d’autres, « lorsque la parole est simulée, elle ne construit pas une relation, mais son apparence. L’imitation artificielle de la relation de soins ou d’accompagnement peut devenir dangereuse lorsqu’elle s’insinue dans un contexte pauvre en relations et en affections réelles : le risque n’est alors pas tant qu’une personne croie parler à une autre personne, mais qu’elle perde le désir même de rechercher véritablement l’autre. »
Le pape appelle à « désarmer » l’IA pour « l’empêcher de dominer l’humain »