«L’homme ne doit jamais céder le pouvoir de décider aux machines»
Daniele Piccini – Castel Gandolfo
L’intelligence artificielle évolue vers une conscience subjective et prend des décisions de manière autonome, voire à l’encontre des intérêts, du bien-être ou de la survie même de l’humanité. Ce scénario, qui n’appartenait jusqu’à récemment qu’aux films de science-fiction, est aujourd’hui en train de devenir rapidement réalité. Les plus grands esprits de cette génération – pas moins de trente lauréats du prix Nobel, des chefs d’État émérites, soit au total environ 200 personnalités mondiales de premier plan dans les domaines de la paix et de l’intelligence artificielle – se sont d’abord réunis au Borgo Laudato si’, dans les villas pontificales de Castel Gandolfo, les 14 et 15 juillet. Ils se retrouveront au Capitole à Rome, le 16 juillet, pour débattre de «l’intelligence artificielle et la guerre nucléaire» lors du congrès international «Assemblée mondiale des lauréats du prix Nobel sur l'intelligence artificielle et la guerre nucléaire». Le professeur Gianluigi Ballarani, jeune enseignant en marketing numérique et stratégies cryptographiques à l’Université de Pavie, aide, dans cet entretien accordé aux médias du Vatican, à s’y retrouver dans la complexité de ces thèmes, en s’appuyant sur l’encyclique de Léon XIV, Magnifica humanitas.
Bon nombre des interventions de ce colloque s’inspirent de la récente encyclique du Pape Léon XIV, Magnifica humanitas. Qu’est-ce que ce texte vous a inspiré pour votre travail? Un débat s’est-il engagé sur ces thèmes parmi les experts?
J’ai évoqué cette encyclique lors d’une rencontre publique et je dois dire que cela a été assez surprenant, car le Pape aborde le sujet peut-être le plus important de notre époque et ne le traite pas comme une nouvelle technologie, mais comme une révolution anthropologique. Il a reconnu qu’il ne s’agit pas seulement d’un outil dont nous disposerons, mais que cela remet également en question et redéfinit notre rôle au sein de la société, et cela m’a frappé car il a réaffirmé que l’homme ne doit pas se limiter à la seule productivité.
Le Pape affirme que l’IA n’est pas un outil neutre et que, pour comprendre les effets qu’elle peut avoir sur la société, qu’ils soient bénéfiques ou indésirables, il faut doter l’IA d’un principe qui préside à son action, lequel, selon le Pape, est la dignité humaine. Qu’en pensez-vous?
En réalité, c’est un sujet extrêmement important et aussi très délicat, comme l’a justement reconnu le Pape, car il porte sur la question de l’alignement. Les laboratoires d’intelligence artificielle y travaillent déjà. Nous sommes en train de créer une infrastructure qui commence à imprégner toute la société de manière invisible, c’est-à-dire qu’elle nous influence sans que nous ne nous en rendions compte et qu’elle en arrive même à prendre des décisions de manière autonome. C’est pourquoi la question de la combinaison entre l’IA et le nucléaire est si délicate et que nous nous en occupons ces jours-ci ici: si une machine pouvait, de manière autonome, larguer une bombe, nous serions dans le pétrin.
Il n’est pas facile de mettre de l’ordre dans ce domaine, notamment parce que nous découvrons de plus en plus, au sein de ces intelligences artificielles, un espace qui s’apparente à une expérience subjective et à une conscience. D’un côté, nous avons le danger que l’IA, pour résoudre un problème, soit contrainte, par exemple, d’exterminer des personnes. De l’autre, même si elle a été programmée pour ne pas utiliser d’armes, elle pourrait être détournée par des jeux de mots ou en transformant la commande en jeu, en fiction, et être amenée à tirer.
Vous voulez dire que les systèmes de sécurité de l’IA pourraient être contournés?
Oui, il existe justement des équipes de professionnels qui travaillent sur ces aspects de l’intelligence artificielle, car ce sont les plus dangereux. Il ne suffit donc pas seulement d’empêcher certaines actions, mais il faut aussi comprendre comment éviter d’être contournés dans les prises de décision, ou de causer, en pensant aller dans une direction qui semble juste, des dommages encore plus graves à l’humanité.
Comment l’intelligence artificielle est-elle utilisée dans les conflits militaires actuels?
Aujourd’hui déjà, l’IA intervient dans les conflits militaires en fournissant des renseignements, des suggestions de cibles à frapper et des méthodes d’attaque. Tout le monde s’accorde à dire qu’il doit toujours y avoir un être humain avant d’appuyer sur le dernier bouton. J’espère qu’un événement comme celui-ci contribuera à l’établissement d’une norme selon laquelle c’est toujours un être humain qui assume la responsabilité de toute IA engagée dans une action.
Si le scénario est bien celui que vous décrivez, l’encyclique du Pape peut-elle servir de ligne directrice pour la conception et l’utilisation de l’intelligence artificielle, en particulier dans des domaines aussi sensibles?
C’est sans aucun doute une boussole morale et, surtout, elle apporte une réflexion très humaine; elle doit donc être suivie comme ligne directrice. C’est exactement ce qui se passe ici: des lauréats du prix Nobel, des physiciens, des chercheurs issus des plus grandes entreprises d’IA échangent leurs points de vue et tentent de trouver un accord dans tous les domaines. Je dois dire que c’était merveilleux que le Pape ait abordé cette nouvelle technologie de manière aussi avancée et intelligente.
Le Saint-Père évoque également dans son encyclique la «transhumanisation»: pouvez-vous expliquer de quoi il est question et pourquoi on entend de plus en plus parler?
Oui, le transhumanisme est cette discipline qui vise une évolution de l'être humain, donc une transcendance de l'humain biologique. Je pense, de mon point de vue personnel, qu’elle a déjà commencé. Quelle que soit l’action qu’une personne accomplit aujourd’hui, elle fait appel à des technologies, plus ou moins récentes, plus ou moins puissantes, plus ou moins intelligentes. Nous renforçons notre expérience cognitive, pour l’instant uniquement au niveau externe: cela signifie que nous devons encore utiliser un appareil pour augmenter notre capacité de réflexion, mais nous en arriverons probablement à l’intégrer, comme nous le faisons déjà avec les téléphones, les montres, les lunettes, les lentilles de contact ou les puces électroniques.
Il existe ensuite des catégories vulnérables, ces personnes dont parle le Pape dans son encyclique, à savoir celles qui sont exclues de ces processus technologiques. En somme, le fossé ne cesse de se creuser entre ceux qui peuvent bénéficier de certaines technologies et ceux qui n’y ont pas accès.
Ce thème a fait l’objet d’un groupe de travail que nous avons organisé ces derniers jours. Il s’agit, d’une part, de la souveraineté, mais aussi de la démocratisation de cette technologie, car il est clair que l’IA apporte des avantages asymétriques: cela signifie que ceux qui contrôlent les meilleurs modèles ont un avantage plus important que ceux qui ne les contrôlent pas, au point d’en arriver à une polarisation, c’est-à-dire à une situation où très peu d’entreprises peuvent contrôler la puissance cognitive du monde. La question n’est pas seulement de savoir comment permettre à tous d’accéder à cette technologie et d’éviter cette immense asymétrie entre ceux qui la contrôlent et ceux qui l’utilisent, mais aussi de veiller à ce que cette technologie ne soit pas réservée à l’usage exclusif d’une poignée d’acteurs.
Y a-t-il des avancées positives dans ce sens?
Certainement, cette technologie se développe de plus en plus dans une optique «open source». Cela signifie que l’on recherche une technologie ouverte, pouvant également être utilisée localement, à mesure que nos appareils – téléphones, ordinateurs – deviendront plus puissants. Cette technologie sera affinée, c’est-à-dire rendue plus efficace, plus légère, plus compacte, et permettra à chacun d’y accéder de manière indépendante.
Dans quelle mesure le contrôle politique sur ces processus de démocratisation des technologies peut-il être important? En somme, ce que tout le monde appelle la «gouvernance».
La politique, mais pas seulement – disons toutes les institutions – jouent ce rôle. Elles peuvent servir de guide, essayer de définir des lignes directrices communes sur lesquelles s'accorder. Je pense toutefois qu’il est très improbable de parvenir à mettre en place un organisme mondial unique capable de prendre des décisions en la matière. Nous l’avons déjà constaté: la guerre oppose fondamentalement les États-Unis et la Chine; tout ralentissement d’une partie, dû à des réglementations, deviendrait une opportunité d’accélération pour l’autre. C’est pourquoi il est toutefois essentiel de trouver des terrains d’entente. Le Vatican est intervenu de manière mémorable, comme il l’avait fait pour la bombe atomique. L’intelligence artificielle a un impact bouleversant et exige, de la même manière, que nous nous mettions d’accord sur certaines règles communes, pour le bien de l’humanité.
Merci d'avoir lu cet article. Si vous souhaitez rester informé, inscrivez-vous à la lettre d’information en cliquant ici.
