Le Saint-Siège souhaite que l'IA soutienne le médecin sans le remplacer

Benedetta Capelli – Cité du Vatican

Les avantages et les risques liés à l'utilisation de l'intelligence artificielle dans le domaine de la santé ont fait l'objet de la réflexion du cardinal Secrétaire d'État Pietro Parolin, qui s'est exprimé aujourd'hui, 15 octobre, à l'Institut supérieur de la santé de Rome à l'occasion de l'inauguration du Centre d'étude et de développement de l'intelligence artificielle. Une lectio magistralis sur l’«Éthique de l'intelligence artificielle», au cours de laquelle le cardinal a souligné que l'IA est «un horizon plein de promesses», mais aussi «un carrefour» qui impose le choix entre une technologie orientée vers une efficacité «inhumaine» qui «finit par écarter les plus faibles», ou une intelligence artificielle éclairée par «l'éthique» et «au service» du bien intégral de chaque personne.

«Le Saint-Siège, fidèle à sa mission, continuera à œuvrer, en dialogue avec tous les hommes et toutes les femmes de bonne volonté, pour que la technologie reste ce qu'elle doit être: non pas une fin en soi, mais un moyen puissant pour construire un monde plus juste, plus fraternel et plus humain», a précisé le cardinal. Le thème de l'IA définit le présent et façonne l'avenir, a-t-il poursuivi, il interpelle l'homme dans sa dignité qu’«aucune machine ne pourra jamais reproduire ou remplacer».

L’IA, une grande ressource dans le domaine médical

L'utilisation de l'intelligence artificielle dans le domaine de la santé pourrait vraiment apporter une contribution importante. «Pensons, a déclaré le cardinal Parolin, à la lecture des radiographies avec une précision supérieure à celle de l'œil humain; à la possibilité de trouver de nouveaux médicaments ou d'expérimenter des thérapies oncologiques en fonction du profil génétique; à l'optimisation de la gestion des ressources hospitalières pour un accès plus équitable aux soins dans les régions les plus pauvres du monde». Voilà comment le Saint-Siège souhaite que l’intelligence artificielle soit exploitée, comme un outil puissant au service de la vie, un allié de l'homme dans la lutte contre la maladie et la souffrance, a déclaré le Secrétaire d'État.

Un risque d'apartheid sanitaire

À côté des lumières, il faut reconnaître les ombres. Pour le cardinal Parolin, le premier risque est celui de la «déshumanisation des soins», la disparition de l'alliance thérapeutique entre le médecin et le patient, qui n'est pas seulement un échange d'informations mais aussi un pacte de confiance entre deux personnes. «Un algorithme peut offrir un diagnostic, mais il ne peut pas offrir un mot de réconfort», a-t-il souligné. Le risque est que le médecin, submergé par les pressions bureaucratiques et économiques, délègue son jugement à la machine, passant ainsi du statut de «clinicien avisé» à celui de «simple superviseur d'un processus automatisé». «Nous devons lutter, a souligné le cardinal, pour que la technologie reste un outil d'aide à la décision du médecin, et non un substitut à son humanité».

Un autre risque est celui de la «discrimination algorithmique» car, en introduisant des données qui reflètent les préjugés et les inégalités existants dans la société, l'IA les reproduira, créant ainsi un véritable «apartheid sanitaire», alors qu'il est nécessaire que les avantages de l'intelligence artificielle soient accessibles à tous. Mais qui est responsable d'une erreur de l'algorithme? «Le manque de clarté sur ce point, a déclaré le Secrétaire d'État, risque de créer une “irresponsabilité du système’”dans laquelle, au final, personne n'est vraiment responsable et la victime ne trouve pas justice».

Pour le cardinal Parolin, il faut également tenir compte du risque d'accentuer la «culture du rejet» dans un monde obsédé par la performance. «Quelle valeur un algorithme attribuera-t-il à la vie d'une personne âgée souffrant de multiples pathologies, d'un malade en phase terminale, d'un enfant à naître atteint d'une grave malformation?»: telle est la question posée par le cardinal, qui ouvre la voie à un scénario qu’il déplore déjà, considérer une vie comme «ne méritant pas d'être vécue». «Nous touchons ici au cœur de notre éthique. Pour nous, chaque vie a une valeur infinie, de la conception à la mort naturelle, une valeur qui ne dépend pas de son utilité, de sa productivité ou de sa perfection physique. La dignité humaine passe avant tout calcul».

Le cœur de l'éthique

L'Église, qui considère avec «admiration et prudence» les progrès scientifiques et technologiques, s'engage ainsi sur la voie «d'une gouvernance humaine et humaniste de la technologie»; une voie faite de dialogue «entre scientifiques, éthiciens, philosophes, théologiens et responsables politiques, afin de construire ensemble un avenir où l'innovation soit synonyme de véritable progrès humain». Il est donc nécessaire d'investir dans la formation éthique de ceux qui s'occupent de technologie, mais «la véritable plateforme qui permettra à l'intelligence artificielle de porter ses fruits pour le bien du monde n'est pas une technologie, mais l'être humain». «La décision finale, en particulier lorsque la vie et la mort sont en jeu, doit toujours rester entre les mains d'un être humain, capable d'intégrer les données de la machine avec les valeurs de prudence, de compassion et de sagesse».

Revenant sur les déclarations des précédents Papes et évoquant l'initiative Rome Call for Ai Ethics, le cardinal a réaffirmé l'importance de certains principes clés qui doivent guider le développement des technologies: transparence, inclusion, responsabilité, impartialité, fiabilité, sécurité et confidentialité. En conclusion, il a exprimé la disponibilité du Saint-Siège à désigner des experts qui pourraient participer aux activités du Centre d'étude et de développement de l'intelligence artificielle qui vient d'être inauguré.