Conférence sur l'IA au Vatican: Humains et machines, alliés sans renoncer à la réflexion

Edoardo Giribaldi – Cité du Vatican

«Tout, partout, tout à la fois.» L’intelligence artificielle recèle de multiples tensions: la crainte d’un avenir «anti-humain», mais aussi la conviction que «personne» ne souhaite véritablement un tel scénario; le paradoxe d’une «richesse d’informations» croissante s’accompagnant d’une «pénurie d’attention» toujours plus grande; le risque lié au développement des «robots tueurs» dignes de la science-fiction et l’érosion même de la «vérité objective». Parallèlement, l’espoir demeure que les nouvelles technologies puissent devenir des instruments au service de l’humanité, et non des substituts. Dans un contexte où il semble difficile de dégager un leadership partagé, tant parmi les acteurs privés que parmi les nations, l’Église, grâce à sa présence mondiale et à la voix du Pape, souvent loué pour la clarté avec laquelle il aborde la question des nouvelles technologies, peut jouer un rôle essentiel pour orienter le débat sur l’avenir de l’IA.

Ce sont là quelques-uns des nombreux souhaits exprimés par les intervenants lors de la session de l'après-midi de la conférence internationale sur l'IA, intitulée «Protéger les voix et les visages humains», qui fait écho  au message du Pape Léon XIV pour la Journée mondiale des communications sociales 2026.  L’événement s'est tenu ce jeudi 21 mai dans l’amphithéâtre Benoît XVI de l'Université pontificale Urbanienne et était organisé par le dicastère pour la Communication, en collaboration avec le dicastère pour la Culture et l'Éducation et la Fondation Saint Jean XXIII. Cette contribution s'inscrit dans la position concrète du Vatican sur cette question, quelques jours seulement après l'annonce par le Saint-Siège de la création d'une commission interdicastérielle dédiée à l'intelligence artificielle, et la publication, le 25 mai, de la première encyclique de Léon XIV, Magnifica humanitas, consacrée à la protection de la personne humaine à l'ère de l'IA.

Une alliance possible

La première table ronde de l'après-midi, intitulée «Une alliance possible», était animée par sœur Nina Krapic , directrice adjointe de la Salle de presse du Saint-Siège. Parmi les intervenants figuraient  Mitchell Baker, cofondateur du Projet Mozilla et de la Fondation Mozilla; Daniel Dzuban, président par intérim de la Coalition pour la provenance et l'authenticité des contenus (C2PA) et responsable des partenariats stratégiques pour l'authenticité des contenus chez Sony Electronics; Tristan Harris, cofondateur du Center for Humane Technology; et Neil Lawrence, professeur d'apprentissage automatique à l'université de Cambridge (Angleterre) et directeur scientifique de Trent.AI.

Qu'y a-t-il de non humain dans les machines?

Neil Lawrence a introduit son intervention en reprenant une prédiction de l'économiste et prix Nobel Herbert Simon, prédiction qui s'est avérée exacte, voire amplifiée, par l'avènement de l'IA: «La profusion d'informations engendre une pénurie d'attention.» Une valeur qui, au fil des décennies, a été progressivement érodée par les machines, qui s'interposent de plus en plus entre les utilisateurs et l'information qu'ils consomment. «Elles ont absorbé la puissance de notre pensée, mais non sa source.» Deux éléments manquent aux technologies par rapport aux humains: «la compréhension culturelle que nous avons bâtie au fil des générations et la vulnérabilité humaine, qui nous rend responsables les uns des autres.» Vulnérabilité qui ne constitue pas une faiblesse, mais «le fondement de la conscience». Une conviction que, comme l'a expliqué le professeur, l'Église défend depuis des siècles, préservant, comme l'indique le titre de la conférence, «les voix et les visages humains» à travers les bouleversements de l'histoire.

Des alliances pour protéger la vérité

Daniel Dzuban a salué le message du Pape Léon XIV pour la Journée mondiale des communications sociales 2026, estimant qu'il offrait un aperçu précis de la relation entre l'humanité et les nouvelles technologies: ces dernières seraient-elles un feu qui améliorera la société ou un feu qui la consumera? Cette question a guidé toute sa présentation, qui comprenait une démonstration pratique de la capacité de l'IA générative à créer des images à partir d'une ligne de texte en quelques secondes. Le point crucial est qu'elle peut générer des représentations de réalités existantes, mais aussi en inventer de nouvelles, produisant ainsi du contenu «sans voix ni visage humains». La menace posée par l'IA n'est donc pas celle des «robots tueurs», mais l'érosion progressive du concept de vérité objective, rendue accessible rapidement, à un coût quasi nul, et souvent difficile à discerner, notamment pour les utilisateurs les plus vulnérables. Évoquant son expérience professionnelle chez Sony Electronics, Daniel Dzuban a souligné l'existence d'outils tels que le logiciel Content Credentials, promu par C2PA, qui fournit des informations sur l'authenticité d'une image en ligne. Il s'agit d'un exemple concret d'alliance entre entreprises engagées dans l'adoption de normes communes. «Face aux difficultés rencontrées pour accéder au leadership national dans le domaine de l'IA, l'Église peut jouer un rôle fondamental et impulser le progrès», tel a été le souhait final exprimé par Daniel Dzuban, interrogé par les médias du Vatican en marge de la conférence.

Présages funestes et signes d'optimisme

À ce stade, la question se pose: qu'est-ce qui motive certains des problèmes engendrés par l'IA? Une question fondamentale, selon Tristan Harris, pour qui «un problème bien défini est un problème à moitié résolu». Tristan Harris, qui a travaillé plusieurs années dans la Silicon Valley avant, met en garde contre les risques liés aux nouvelles technologies. «Montrez-moi les motivations et je vous montrerai le résultat», déclare-t-il, citant l'investisseur Charlie Munger, et soulignant comment les entreprises développant l'IA façonnent un «avenir anti-humain», alimenté par la course au progrès et à la suprématie technologique. «Nous voulons que l'IA devienne un instrument», observe l'expert, reprenant également les propos du Pape Léon XIV. Cependant, selon son analyse, il semble que ce ne soit pas la voie empruntée par des entreprises comme OpenAI et Anthropic, parmi les leaders du secteur. La motivation justifiant leurs investissements colossaux est, en réalité, la course au remplacement du travail humain. Comme cela s'est déjà produit avec des ressources telles que le pétrole au Venezuela ou les minéraux en République démocratique du Congo, ce qui apparaît initialement comme une bénédiction peut se transformer en malédiction. Au lieu d'être orientées vers le bien commun, les ressources finissent par alimenter des infrastructures principalement motivées par le profit. Ce même risque, selon cette analyse, se reproduit dans le domaine de l'IA, même aux États-Unis. Lorsqu'un journaliste du New York Times a demandé à Peter Thiel, l'un des entrepreneurs les plus influents du secteur technologique, si l'espèce humaine serait capable de survivre aux nouvelles technologies, Thiel n'a pas donné de réponse claire. Présages inquiétants, mais aussi signes d'optimisme: «Personne ne souhaite un avenir anti-humain». De même que le Pape Jean XXIII, dans son encyclique Pacem in Terris, mettait en garde contre la course aux armements, le message de Léon XIV sur l'IA peut aussi inciter à reconnaître l'existence de quelque chose de plus «sacré» et de plus précieux, capable d'unir l'humanité au-delà des profits de quelques acteurs.

Ouvrir de nouvelles technologies

Mitchell Baker, citant un film oscarisé de 2022, a défini l'IA comme «Tout, partout, tout à la fois». Il est impossible de prédire avec certitude où son développement mènera l'humanité, alimentant ainsi une ère de grande ambivalence. Comment, dès lors, élaborer des lignes directrices pour un avenir aussi incertain? Grâce au «principe d'action» et à la «conception participative», en ouvrant au maximum les nouvelles technologies à la contribution collective. Cette approche rappelle la philosophie du logiciel libre, modifiable et améliorable par tous. Ce concept s'étend à l'ensemble du secteur technologique: chacun devrait pouvoir bénéficier des retombées économiques et culturelles de l'innovation. Le navigateur Firefox, développé par Mozilla, en est un parfait exemple. «Pourquoi le partager? Comment garantir la sécurité?» sont quelques-unes des questions auxquelles Mitchell Baker a dû répondre au fil des ans. Un changement de perspective fondé sur l'ouverture et la collaboration semblait initialement difficile à imaginer, mais il s'est progressivement imposé. Selon lui, il devrait en être de même pour les modèles d'IA.

N'abandonnez pas cette idée

La deuxième table ronde, intitulée «Ne renoncez pas à votre capacité de penser», était animée par Mgr Paul Tighe, secrétaire du dicastère pour la Culture et l’Éducation. Parmi les intervenants figuraient Rayén Condeza Dall’Orso, professeure à la Faculté de communication de l’Université pontificale catholique du Chili et vice-présidente de la section Recherche sur l’éducation aux médias (MER) de l’IAMCR; Divina Frau-Meigs, professeure émérite et sociologue des médias à l’Université Sorbonne Nouvelle;  Adeline Hulin, responsable de l’Unité Éducation aux médias et à l’information et compétences numériques à l’UNESCO; et  Justin Kings , directeur de l’Académie de l’UER (Union Européenne de radiodiffusion).

L'IA au service de l'éducation aux médias

Adeline Hulin s'est concentrée sur les risques liés à l'utilisation de l'IA, soulignant comment elle peut réduire l'activité cognitive, générer des «hallucinations» et alimenter des dynamiques psychologiques néfastes. Parmi celles-ci figure l'affaiblissement de l'esprit critique, qui conduit, par exemple, à confondre popularité et autorité. Les activités de l'UNESCO, que le Pape Léon XIV visitera à Paris en septembre lors de son voyage apostolique, s'inscrivent dans le cadre du message du Souverain pontife visant à contrer ces risques. Adeline Hulin a ensuite approfondi le concept d'«éducation aux médias»: la capacité d'analyser et de créer du contenu dans tous les formats de communication. Selon une étude de l'UNESCO, 171 pays promeuvent des formes de ce type d'éducation, malgré d'importantes disparités entre les continents: elle est intégrée dans la plupart des programmes scolaires européens, tandis qu'en Afrique, sa diffusion reste très limitée. La «révolution numérique» doit donc se développer à l'échelle mondiale, mais cela exige un «courage politique».

Les écoles en tant qu’«influenceurs de confiance»

Divina Frau-Meigs a pour sa part axé son discours sur la «désartificialisation» de l’IA à travers le rôle des écoles. «Nous devons cesser de considérer ces institutions comme obsolètes et commencer à les percevoir comme des acteurs de confiance», a-t-elle déclaré. La professeure a également souligné l’impact des nouvelles technologies sur des domaines profondément symboliques et spirituels, tels que la foi. Elle a cité, par exemple, la possibilité de communiquer avec des chatbots se faisant passer pour le Christ, ou la diffusion d’images manipulées de figures de l’Église, comme l’image virale du Pape François portant une doudoune blanche éclatante.

Des compétences au service de la communauté

Condeza Dall'Orso a donné un exemple tiré directement de son pays d'origine, le Chili. Dans la tradition Minga, sur les îles de Chiloé, les habitants collaborent pour le bien commun de leurs villages, allant jusqu'à déplacer des maisons et des bâtiments endommagés pour aider les plus démunis, mettant ainsi leurs savoir-faire et leurs techniques artisanales au service de la communauté. Selon elle, une démarche similaire peut et doit se produire dans le domaine de l'IA, en plaçant l'individu et le bien collectif au centre des préoccupations. Parmi les principaux obstacles à cette vision figurent toutefois les nouvelles «fractures» engendrées par les technologies numériques: des inégalités qui risquent de créer de nouvelles élites et de profondes divisions sociales, alimentées par une perception déformée de la vérité et de la réalité.

Responsabilité, coopération, éducation

Justin Kings a clôturé la session, articulant son intervention autour de trois axes: la responsabilité, la coopération et l'éducation. Concernant le premier point, il a cité des données de l'UER montrant que les médias publics sont les sources d'information les plus fiables dans 91% des pays européens. «L'IA rend la désinformation de plus en plus difficile à repérer», a-t-il constaté. Évoquant l'importance de la coopération, il a ensuite rappelé l'expérience d'Eurovision News Spotlight, un réseau international de vérificateurs de faits chargé d'identifier et de signaler les fausses informations circulant en ligne. Ce travail a également été rendu nécessaire par les données recueillies par l'UER en collaboration avec la BBC, qui ont révélé que 45% des réponses générées par l'IA contiennent au moins une erreur significative. Enfin, Justin Kings a souligné le rôle central de l'éducation. L'UER encourage les formations aux nouvelles technologies, avec pour objectif de développer une véritable culture numérique: une culture permettant à chacun de comprendre, d'appréhender et d'utiliser l'IA de manière consciente et profitable.