L’encyclique de Léon XIV: que l’IA serve l’humanité et non le pouvoir de quelques-uns

Isabella Piro – Cité du Vatican

«La magnifique humanité créée par Dieu se trouve aujourd’hui face à un choix décisif: ériger une nouvelle tour de Babel ou bâtir la cité où Dieu et l’humanité habitent ensemble». L’incipit de la première encyclique de Léon XIV – Magnifica humanitas, «sur la protection de la personne humaine à l’ère de l’intelligence artificielle» – en résume les raisons fondamentales et l’objectif. Publiée aujourd’hui, lundi 25 mai, elle a été signée par le Souverain pontife le 15 mai dernier, à l’occasion du 135e anniversaire de la promulgation de Rerum novarum de Léon XIII. Et le Pape Léon XIV a repris l’héritage de son prédécesseur, en rédigeant une encyclique sociale qui aborde l’un des principaux défis de l’époque contemporaine: l’intelligence artificielle.

Subdivisé en cinq chapitres, auxquels s’ajoutent une introduction et une conclusion, Magnifica humanitas part d’un postulat: la technologie n’est pas une «force antagoniste par rapport à la personne» (4), ni «un mal en soi» (9). Cependant, «elle n’est pas neutre, car elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent». D'où l'appel du Pape à «construire le bien» et à «rester humains», en suivant la logique de la coresponsabilité courageuse, de la subsidiarité, de la communion, afin que «le monde puisse reconnaître… au cœur de l'être humain, le lieu où Dieu désire habiter» (16).

La doctrine sociale de l’Église est une théologie de la communion

Le premier chapitre – Une pensée dynamique fidèle à l’Évangile – retrace l’évolution de la Doctrine sociale de l’Église (DSE) dans le magistère récent et au Concile Vatican II, en mettant en lumière «son caractère dynamique» (17). Loin d’être «un recueil de principes et de normes à appliquer», la DSE est plutôt «un chemin de discernement communautaire», une «théologie de la communion dans l’histoire» (27) qui oriente la lecture des événements à la lumière de l’Évangile. Léon XIV rappelle la pensée de ses prédécesseurs: de Pie XII – le premier à employer l’expression «doctrine sociale de l’Église» dans l’exhortation apostolique Menti nostrae de 1950 – au pape François, en passant naturellement par Rerum novarum de 1891, qualifiée de «jalon dans l’évolution du Magistère social» (30). À leur époque respective, chaque successeur de Pierre «a fait ressortir différents aspects d’un patrimoine unique: la dignité de la personne, la valeur du travail, la destination universelle des biens, la solidarité et la subsidiarité, la sauvegarde de la création, la centralité de la paix et de la fraternité.» (45).

Protéger la dignité humaine: la personne n’est pas une ressource à exploiter

Dans le deuxième chapitre, Léon XIV énumère les «fondements et les principes de la doctrine sociale de l’Église»: parmi les premiers, il cite la dignité de la personne, créée à l’image et à la ressemblance de Dieu. Il est nécessaire de le rappeler car la pression exercée par «de nouvelles idéologies» et par «certains intérêts très puissants» peut réduire la personne à une «ressource à utiliser et à exploiter» ou à «ce qu’elle réalise ou produit» (51). Au contraire, «la dignité fondamentale de chaque personne ne s’acquiert pas, ne se mérite pas et n’a pas besoin d’être démontrée» (53). Un deuxième fondement de la DSE est l’inviolabilité des droits humains, parmi lesquels le premier est celui à la vie «de sa conception à son terme naturel» : à cet égard, Léon XIV définit l’avortement provoqué, le meurtre d’innocents et l’euthanasie comme des «choix gravement illicites» (55). Le troisième fondement est la reconnaissance des droits des minorités, avec une attention particulière pour les femmes : en leur faveur, le Souverain pontife demande des «choix concrets» dans les lois, le travail, l’éducation, les responsabilités sociales et politiques, afin qu’elles soient véritablement écoutées et valorisées (57).

Il est immoral et inacceptable d'éliminer ou d'asservir une nation

Quant aux principes de la DSE, Léon XIV en énonce cinq: le premier est le bien commun, «forme sociale de la dignité reconnue à chacun» (59). Sur un point, le Pape est particulièrement catégorique: «La promotion du bien commun ne peut jamais être dissociée du respect du droit des peuples à exister, à préserver leur identité et à apporter leur originalité à la famille des nations». Par conséquent, «toute tentative ou tout projet visant à éliminer ou à soumettre une nation est gravement immoral et donc inacceptable» (64).

La technologie ne doit pas être concentrée entre les mains de quelques-uns

Le deuxième principe concerne la destination universelle des biens: ici et à d’autres endroits de l’encyclique, Léon XIV insiste sur la nécessité que les connaissances et les technologies ne soient pas concentrées entre les mains de quelques-uns, creusant ainsi le fossé entre ceux qui sont inclus et ceux qui sont exclus de la révolution numérique (67). En découlent le troisième et le quatrième principe, à savoir la subsidiarité (68) – qui exige de dépasser le paternalisme et l’assistanat au profit de la coresponsabilité – et la solidarité (73), «principe et vertu» qui s’oppose à l’indifférence et tient compte des peuples et des générations futures.

La justice sociale et les migrants comme «test »

Le cinquième principe de la DSE indiqué par le Pape est la justice sociale: à l’ère numérique, elle doit garantir à tous un accès équitable aux opportunités, protéger les plus fragiles, lutter contre la haine et la désinformation, soumettre à un contrôle public l’utilisation des données et des technologies, «afin que le critère ne soit pas le seul profit, mais la dignité de chaque personne et le bien des peuples» (80). Léon XIV désigne les migrants, les réfugiés et les personnes déplacées comme un «un test décisif» dans ce domaine: la manière dont la société les traite montre «si l’idée de justice est guidée par la peur ou par la fraternité». D’où l’appel à préserver le «droit à l’espoir» de ceux qui sont contraints de partir, en leur garantissant des voies sûres et légales, un accueil digne et une intégration; et à promouvoir «le droit de rester» pour chacun sur sa propre terre, en paix et en sécurité, en s’attaquant aux «causes profondes» des migrations (81).

Les abus et l’examen de conscience pour l’Église

Le Pape entend que ces cinq principes s’adressent non seulement à la société, mais aussi à l’Église, appelée à «un examen de conscience». Le Pape exhorte à «assainir les relations et les structures ecclésiales de ces distorsions qui engendrent des inégalités, de l’opacité et des abus de pouvoir». Il demande que soient écoutées les «victimes d’abus spirituels, économiques, institutionnels, sexuels, de pouvoir, de conscience», car cela «fait partie intégrante d’un chemin de justice, qui comprend la reconnaissance du préjudice, la juste réparation et la prévention» (89).

Nécessité d’un code éthique commun sur l’IA

Le troisième chapitre – Technique et domination. La grandeur de la personne humaine face aux promesses de l’IA – aborde de front le thème de l’intelligence artificielle. Léon XIV met en garde contre le «paradigme technocratique» déjà dénoncé par François et en raison duquel chaque choix est dicté exclusivement par des paramètres d’efficacité et de profit (92). Au contraire, la technologie la plus puissante n’est pas nécessairement la meilleure: l’IA peut imiter et simuler l’homme, mais elle ne possède ni conscience morale, ni empathie, ni capacité affective, relationnelle et spirituelle. Il faut donc aborder l’IA avec sobriété et vigilance, en veillant à la clarté des responsabilités à chaque étape (accountability) et en misant sur des politiques et des cadres juridiques adaptés, une surveillance indépendante et l’éducation des utilisateurs. Il faut surtout un code éthique soumis à des critères de justice sociale partagée, car «une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes» (107). Sans oublier l’impact environnemental des nouvelles technologies, qui nécessitent de grandes quantités d’énergie et d’eau, affectant les émissions de dioxyde de carbone et portant atteinte à la Création (101).

Désarmer l’IA et la soustraire à la logique de la compétition

Il faut «désarmer l’IA» – insiste Léon XIV – pour la soustraire à la logique de la compétition militaire, économique et cognitive; pour rompre l’équivalence entre puissance technique et droit de gouverner; pour la soustraire aux monopoles et l’empêcher de dominer l’humain. Cette tâche est éthique, technique et écologique car l’IA «est déjà l’environnement dans lequel nous sommes immergés et le pouvoir avec lequel nous devons composer» (110). Une large place est consacrée à la critique du transhumanisme et du posthumanisme, qui interprètent le progrès comme le dépassement des limites de l’humain. Au contraire, la limite n’est pas un défaut à éliminer, mais une dimension constitutive de la personne, car «l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite» (118), reconnaissant dans la fragilité et la finitude des lieux où mûrissent la relation, la sollicitude et l’ouverture à Dieu et à l’autre.

Que le progrès technique ne fasse pas régresser le cœur

L'enjeu est de taille: faire progresser la technique en éliminant les limites de l'humain revient à faire régresser le cœur. Magnifique et pourtant blessée, l'humanité «ne doit être ni remplacée ni dépassée». La technologie peut soulager les souffrances humaines et ouvrir de nouvelles possibilités, mais elle ne doit pas la renier dans ce qui est propre à l'humain: «la capacité de relation et d’amour» (126). Face à l’IA, le véritable choix ne se situe pas entre l’enthousiasme et la peur, mais entre deux façons de construire le progrès: au service de la personne et des peuples ou au service des logiques de pouvoir (129). Un choix qui nous concerne tous: «la construction de Babel ou celle de Jérusalem», les deux «cités» de l’homme et de Dieu évoquées également par saint Augustin (130), commence en chacun de nous.

Écologie de la communication et rôle central de l’école

Dans le quatrième chapitre – Préserver l’humain dans la transformation. Vérité, travail, liberté –, l’encyclique considère la vérité comme un bien commun et un élément essentiel de la démocratie. Dans l’environnement numérique, la vérité doit s’inscrire dans une «écologie de la communication» afin que la culture générée par le web ne devienne pas un instrument «d’uniformisation et de domination», mais un espace de maturation pour la «liberté intérieure et la pensée critique» (136-137). Le Pape indique quelques outils: la transparence dans les logiques de sélection des contenus, la protection des données personnelles, un journalisme sérieux fondé sur l’argumentation et la vérification, une nouvelle prise de conscience dans l’utilisation «correcte et critique» de l’IA, l’intégration des savoirs. Une communication transparente et loyale est également exigée de l’Église, surtout dans les cas d’injustices et d’abus. Au cœur de l’encyclique se trouve l’appel à une alliance éducative renouvelée afin que ne s’éteigne pas chez les jeunes «le désir de poser des questions» à cause de machines parfaites qui font paraître inutile la pensée humaine. «Nous devons nous éduquer à jeûner de l’IA» (140), souligne Léon XIV, en éliminant les inégalités d’accès à l’éducation et en misant sur l’école comme lieu où l’on apprend à «rechercher et à aimer la vérité» (143) et où l’on enseigne ce que le numérique ne peut donner : «du temps partagé pour apprendre et des relations de confiance» (147).

Que le travail soit centré sur la personne, non sur le profit

Dans le cadre de la «quatrième révolution industrielle» que représente la transition numérique, le Souverain pontife souligne l’importance de préserver la dignité et la valeur du travail: «les “nouvelles façons” de travailler ne sont pas nécessairement meilleures», explique-t-il, car la technologie peut déqualifier les travailleurs, les reléguer à des fonctions marginales et les soumettre à une surveillance automatisée (150). Au contraire, il faut concevoir des systèmes centrés sur la personne et non uniquement sur la performance, car si la technologie peut certes soulager l’homme de tâches pénibles ou répétitives, elle ne doit en aucun cas conduire au chômage au nom de la réduction des coûts et de l’augmentation des profits. Dans un scénario où se profilent une pauvreté et des inégalités accrues, provoquées par des systèmes automatisés ayant pris le pas sur l’homme, le Pape appelle également à un renouveau des organisations syndicales (155).

Le développement ne se mesure pas uniquement en termes de PIB

La transformation numérique doit être encadrée dès le départ par des critères sociaux stables, une formation accessible et continue pour les travailleurs, ainsi que la responsabilité des entreprises. Le Pape souligne en outre la nécessité de dépasser le PIB comme indicateur du niveau de développement d’un pays, pour miser plutôt sur la dignité du travail, la prospérité partagée, la réduction des inégalités et la protection de l’environnement. La finance pour la finance est en effet différente de la finance pour le développement (159-160). Et dans le sillage de saint Paul VI, il souligne l’interdépendance entre paix et développement, augurant une coopération internationale capable de définir des stratégies communes «surtout en faveur des pays et des groupes les plus vulnérables», car la prospérité ne contribue à la paix «que si elle est généralisée, inclusive et durable» (163).

La famille, bien social primordial

Dans son encyclique, le Pape met ensuite l’accent sur la famille, fondée sur l’union stable entre un homme et une femme. Celle-ci est un «bien social primordial», «la cellule fondamentale et irremplaçable de toute organisation communautaire» (165) qui doit être soutenue notamment par des politiques du travail favorisant la stabilité et des rythmes de vie humains, afin de garantir un juste équilibre entre vie professionnelle et vie privée et de préserver cette « capacité à construire l’avenir» qui rend la société féconde.

L’«architecture de la visibilité» et les risques pour la liberté

Enfin est abordé le thème de la liberté humaine, à préserver contre la dépendance et la marchandisation. À une époque où les plateformes numériques sont conçues pour capter le temps des utilisateurs et exploiter leurs fragilités, il est urgent de renforcer la liberté intérieure de chacun et de faire face au risque de contrôle social découlant de la collecte massive de données et de l’utilisation de systèmes algorithmiques. Profilage, prévision et orientation des comportements constituent en effet «un nouveau pouvoir» (171) qui risque de discriminer les plus faibles. Le Pape déplore, en particulier, «l’architecture de la visibilité» qui ne fait que récompenser et amplifier ce qui est visible, façonnant ainsi les opinions et générant le conformisme.

Nouvelles formes d’esclavage et nouveau colonialisme

L’IA engendre de nouvelles formes d’esclavage, comme celle des «corps marqués, mutilés, usés» (173) de ceux qui travaillent à l’extraction des «terres rares» nécessaires à la technologie. C’est pourquoi la lutte contre ces nouvelles formes d’esclavage constitue un autre «test décisif pour le discernement éthique» de la transformation numérique. À cet égard, Léon XIV souligne que «l’Église renouvelle sa condamnation ferme de toute forme d’esclavage, de traite et de marchandisation des personnes» (174) et réaffirme que ne pas réagir ou tolérer ces «graves violations de la dignité humaine» revient, à «s’en rendre complice» (175). Dans le même temps, le Pape demande «sincèrement pardon» pour le retard avec lequel l’Église, par le passé, a condamné «le fléau de l’esclavage». L’encyclique fait également référence aux «nouvelles terres rares du pouvoir», c’est-à-dire les informations vitales – par exemple sur la santé et la démographie – utilisées pour orienter les stratégies économiques. Il s’agit, explique le Pape, d’un visage inédit du colonialisme qui s’approprie les données et transforme les vies personnelles en informations exploitables, faisant de l’environnement numérique un «espace de prédation» (176-179).

Dépasser la théorie de la «guerre juste»

Dans le cinquième et dernier chapitre – La culture du pouvoir et la civilisation de l’amour –, Léon XIV se penche sur la guerre. «La révolution numérique est en train de modifier la grammaire des conflits» et, sans une approche éthique, les décisions concernant la vie et la mort des personnes deviendront de plus en plus impersonnelles, le recours à la force étant considéré comme une «une option immédiate et réalisable» (182-183). À la base de tout cela se trouve une «culture de la puissance» qui normalise la guerre et la réhabilite en tant qu’«instrument de politique internationale», (190) favorisant ainsi le réarmement. L’opinion publique, qui considérait autrefois la belligérance comme un dernier recours, est aujourd’hui influencée par des récits médiatiques polarisants, ainsi que par «une perte inquiétante de mémoire historique» qui la prive de toute vision à long terme (191). En conséquence, la paix n’est plus aujourd’hui considérée comme une tâche à assumer, mais comme un intervalle précaire entre les conflits. C’est pourquoi Léon XIV réaffirme que – sans préjudice du droit à la légitime défense au sens strict – il faut dépasser la théorie de la «guerre juste», en promouvant plutôt le dialogue, la diplomatie et le pardon (192).

Aucun algorithme ne rend la guerre moralement acceptable

Léon XIV ne manque pas de déplorer l’essor de l’industrie de l’armement, la course aux armements nucléaires, l’émergence de nouveaux acteurs armés – parmi lesquels les djihadistes – qui cherchent à perpétuer les conflits comme source de pouvoir et de profit. Il lance ensuite un avertissement sans équivoque contre l’utilisation d’armes liées à l’IA car «aucun algorithme ne peut rendre la guerre moralement acceptable»; au contraire, la technologie «ne soustrait pas le conflit à son inhumanité intrinsèque: elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données. Ainsi, elle nous habitue à l’idée que la violence est inévitable et qu’il suffit de l’optimiser» (198). Il faut donc des contraintes éthiques rigoureuses, partagées au niveau international, fondées sur la responsabilité personnelle et la protection des civils, car «toute technologie qui facilite le fait de frapper sans voir le visage de l’autre abaisse le seuil moral du conflit» (199).

La crise du multilatéralisme

La culture de la puissance découle également de la crise du multilatéralisme et de l’émergence d’un «multipolarisme désordonné et conflictuel» où prévaut la méfiance envers l’autre (201). La force du droit est remplacée par le droit du plus fort; les logiques de puissance l’emportent sur la construction de la paix, reléguée au second plan, et les institutions nées pour veiller au destin commun des peuples sont désormais affaiblies, leur autorité morale n’étant plus reconnue. À cet égard, le Pape souhaite pour l’ONU et pour le système politique international des «réformes profondes» qui surmontent la crise actuelle des valeurs au profit du véritable bien commun (226).

Une Realpolitik irresponsable

Aujourd’hui, poursuit l’encyclique, on mène des guerres «hybrides» sur les plans économique, financier et informatique, en exploitant la désinformation et la peur pour influencer l’opinion publique et présenter l’augmentation des dépenses militaires comme la «seule réponse» à un avenir incertain. Mais tout cela n’est qu’un «faux réalisme», une Realpolitik irresponsable qui sème dans les consciences et les cultures la résignation face à une guerre inéluctable et qualifie la paix d’utopie (204-205). Sans exclure que, pour certains, le conflit armé puisse être un instrument de «gestion cynique» des difficultés, ainsi qu’un moyen de détourner l’attention des problèmes internes (208).

La civilisation de l’amour

Face à cette culture de la puissance, le chrétien est appelé à répondre en construisant «la civilisation de l’amour». En effet, la grâce n’élimine pas le conflit comme par magie, mais engendre «une résistance active contre le mal et une créativité surprenante dans le bien» (211). Chacun, dans son propre domaine d’action, est appelé à choisir entre alimenter la logique de la force ou préserver la paix, en endiguant la déshumanisation par de petits actes de fidélité et de ténacité. Le Pape indique cinq «pistes de responsabilité»: désarmer les mots en disant la vérité; construire la paix dans la justice; adopter le regard des victimes en prenant position, car il existe des conflits dans lesquels «il n’est pas juste de rester neutre». Les attaques contre les civils, les hôpitaux, les infrastructures blessent l’humanité elle-même et ne peuvent relever d’une analyse abstraite. Au contraire, il faut donner la parole aux victimes pour «prendre véritablement conscience de l’abîme du mal que recèle» la guerre et toute forme de violence (217). Et encore: le Pape exhorte à «cultiver un sain réalisme» qui cherche des voies de paix réalisables par les faits, et non seulement par les mots.

Ne pas utiliser le nom de Dieu pour légitimer la guerre

Enfin, relancer le dialogue en passant d’une culture de la puissance à une culture de la négociation. «Le dialogue entre les religions», porteur d’un message de paix, est également déterminant. «Ceux qui utilisent le nom de Dieu pour légitimer le terrorisme, la violence ou la guerre en trahissent le visage – tel est l’avertissement de Léon XIV –:combattre au nom de la religion signifie, en réalité, porter atteinte à la religion elle-même» (223). De son côté, la diplomatie du Saint-Siège utilise «le principe évangélique de la miséricorde» comme critère concret de l’action politique. D’où l’exhortation à la prière, car la paix vient avant tout de Dieu (227-228).

La magnifique humanité

En conclusion de la lettre, le Souverain pontife invite les fidèles à aborder les nouvelles technologies à la lumière de l’Évangile, en suivant «un chemin de vie chrétienne sobre et exigeant», afin que, même à l’ère de l’IA, tous puissent témoigner «de la beauté d’une magnifique humanité habitée par Dieu».