Rester humain à l’ère des algorithmes

Andrea Tornielli*

À l’ère de l’intelligence artificielle, alors que la dignité humaine risque d’être éclipsée par d’énormes concentrations de pouvoir technologique échappant à tout contrôle et par de nouvelles formes de déshumanisation, le Pape Léon XIV nous rappelle le «devoir urgent» de rester profondément humain. À l’époque des polarisations et des violences, qui voit s’étendre une «culture de la puissance» avec la guerre réhabilitée comme instrument de politique internationale, le Successeur de Pierre nous demande de faire progresser la technique «sans faire régresser le cœur». Il nous invite à accepter les limites et la fragilité de l’humanité sans les considérer, comme le fait l’idéologie technocratique, comme une erreur à corriger. Il nous exhorte à regarder le monde non pas avec le regard des grands, mais par le bas, avec les yeux de ceux qui souffrent, en commençant par les derniers. Avec les yeux d’un Dieu qui a pris sur lui notre faiblesse en la transformant en lieu de salut, car «même lorsque les machines excellent en efficacité, le centre de l’histoire reste un visage humain qui demande à être regardé».

Magnifica humanitas, la première Encyclique de Léon XIV, n’est pas un texte analytique sur l’intelligence artificielle, elle n’entre pas dans les détails de processus en constante évolution. Il s’agit plutôt d’une summa, qui applique les principes de la Doctrine sociale à notre époque, celle de l’IA, en consolidant et en actualisant les points cardinaux du magistère. C’est un texte qui met également fin au malentendu de ceux qui, s’en remettant à la liberté absolue des marchés et des nouvelles technologies, ont tendance à reléguer au rang d’enseignement discutable le magistère papal sur la nécessité d’une gouvernance humaine partagée de l’IA, sur l’écologie intégrale, sur les structures économiques qui deviennent des «structures de péché», sur le refus de la guerre.

Le Pape, qui a pris le nom de l’auteur de l’Encyclique Rerum novarum, demande à chacun d’entre nous, à l’ère de la révolution numérique, de jouer un rôle actif, pour que la construction de la «civilisation de l’amour» se réalise grâce à «une somme de petites et tenaces fidélités», capables d’endiguer la déshumanisation. Une tâche qui nous concerne donc tous, et de près.

Léon XIV nous rappelle que «les injustices ne naissent pas seulement de mauvais choix individuels, mais aussi de structures, de mécanismes, d’ordres économiques et culturels produisant presque automatiquement des inégalités» et qu’«un développement qui augmente la consommation de certains en faisant peser les coûts et les souffrances sur d’autres, ou encore qui relègue des régions entières à des rôles subordonnés n’est pas humain», comme cela se produit malheureusement aujourd’hui également dans le domaine des nouvelles technologies et des ressources qu’elles requièrent. On lit dans l’Encyclique que la fonction sociale de la propriété privée est une «doctrine certaine» de l’Église, et qu’aujourd’hui, parmi les biens universellement destinés à tous, «nous devons également compter les nouvelles formes de propriété : brevets, algorithmes, plateformes numériques, infrastructures technologiques, données», afin d’éviter que de nouvelles formes d’exclusion et de privation de liberté ne naissent ou ne se consolident. La technique n’est en effet pas un simple outil, et lorsqu’elle devient un critère, «elle finit par déterminer ce qui compte et ce qui peut être écarté», réduisant «les personnes à des rouages d’un système qu’il faut rendre toujours plus performant».

Aujourd’hui, le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul «n’appartient pas aux États, mais à de grands acteurs économiques et technologiques», qui fixent les conditions d’accès, les règles de visibilité et les possibilités mêmes de participation. Lorsque ce pouvoir se concentre entre quelques mains, «il tend à devenir opaque et à échapper au contrôle public», engendrant un risque de développement faussé «qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités».

Le Pape, réaffirmant la nécessité de dépasser la théorie de la «guerre juste», demande que l’utilisation de l’intelligence artificielle dans le domaine de la guerre soit soumise aux contraintes éthiques les plus strictes, car «il n’existe aucun algorithme capable de rendre la guerre moralement acceptable». De plus, l’intelligence artificielle est devenue un facteur déterminant de l’orientation de l’opinion publique en manipulant les images et les contenus, rendant la distinction entre le vrai et le faux de plus en plus difficile. De nombreuses incertitudes concernent également le marché du travail. L’Encyclique rappelle à cet égard qu’il n’est plus possible de compter uniquement sur la «main invisible» du marché: c’est à la politique qu’il incombe d’orienter les dynamiques économiques et technologiques vers le bien commun, en promouvant un travail digne, l’inclusion sociale et une répartition équitable des bénéfices de l’innovation.

Rester humain, maîtriser les processus, éviter – même dans ce domaine – les monopoles qui finissent par accroître le pouvoir de quelques-uns au détriment de la vie de beaucoup: la voie tracée par le Pape ne dresse ni de barricades ni ne rejette a priori l’usage de l’IA. Il souligne même ses nombreux aspects positifs et ses applications utiles, mais explique, dans le même temps, qu’il ne suffit pas de s’interroger éthiquement sur le bien-fondé de son utilisation. Il est essentiel d’intervenir en amont, et aussi de s’interroger sur la conception du système et sur l’idée de la personne et de la société inscrite dans les données et les modèles qui le guident. Cela requiert des cadres juridiques adéquats, un contrôle indépendant, l’éducation des utilisateurs et, surtout, une fois encore, «une politique qui n’abdique pas son devoir». Autrement, le changement sera régi par des logiques purement technocratiques et présenté comme «nécessaire et inévitable», imposant ainsi des règles «dictées» par ceux qui possèdent les données, l’infrastructure et la puissance de calcul.

Il est donc nécessaire de «désarmer» l’IA, c’est-à-dire de «rompre cette équivalence entre la puissance technique et le droit de gouverner». Non pas pour renoncer à la technologie, mais l’empêcher de dominer l’humain: il faut la rendre sujette à débat, contestable, et donc vivable. Précisément pour ne pas abdiquer notre humanité, si fragile et si «magnifique».

*Directeur éditorial des médias du Vatican