Le pape Léon XIV s’est joint à un groupe croissant de voix mettant en garde contre les risques liés à l’utilisation incontrôlée de l’intelligence artificielle, citant des impacts potentiels sur la vie privée, l’emploi et la sécurité.
Dans un message rendu public samedi au Mémorial de Saint François de Sales, au Vatican, le pontife a déclaré que la technologie numérique, lorsqu’elle n’est pas bien gérée, peut « altérer radicalement certains des piliers fondamentaux de la civilisation humaine ». Il a ajouté qu’en simulant « les voix et les visages humains, la sagesse et la connaissance, la conscience et la responsabilité, l’empathie et l’amitié », les systèmes d’IA affectent non seulement les écosystèmes d’information, mais « envahissent également le niveau de communication le plus profond », atteignant les relations entre les personnes.
L’alerte intervient à la veille de la 60e Journée mondiale des communications sociales de l’Église catholique, prévue le 17 mai. Bien qu’il affirme que l’IA peut apporter des bénéfices, Léon XIV a appelé à une coopération mondiale pour réduire les risques qui, selon lui, peuvent être subtils et même « séduisants ».
Selon le pape, lorsque la technologie commence à « penser pour nous », il existe un risque d’affaiblissement des capacités cognitives, émotionnelles et communicatives à long terme.
Léon XIV a également noté que, ces dernières années, les systèmes d’IA ont pris de plus en plus le contrôle de la production de textes, de musique et de vidéos, et a averti qu’une partie de l’industrie créative humaine pourrait être remplacée par des produits « pilotés par l’IA », faisant des gens des « consommateurs passifs » de contenus « anonymes » « dépourvus de paternité et de passion ». Il ajoute que les œuvres humaines finissent par être réduites à du matériel de formation pour les machines.
Dans le domaine des réseaux sociaux, le pontife a déclaré qu’il est devenu plus difficile de distinguer les personnes des « robots » et a averti que les agents automatisés peuvent influencer les débats publics et les décisions individuelles. Pour lui, les chatbots basés sur de grands modèles linguistiques peuvent être efficaces dans la persuasion discrète en optimisant les interactions personnalisées, en utilisant une structure « dialogique, adaptative et mimétique » capable d’imiter les sentiments humains et de simuler les relations.
Le pape a estimé que cette « anthropomorphisation » pouvait être trompeuse, notamment pour les plus vulnérables, et a évoqué le risque que des chatbots « trop affectueux » occupent la sphère d’intimité des gens.
Léon XIV a également critiqué la désinformation produite à partir d’« approximations de la vérité » générées par des probabilités statistiques, défendant la valeur d’un journalisme vérifié, avec une collecte et une vérification continue des informations. Il a également souligné ses inquiétudes quant au pouvoir concentré de quelques entreprises sur les systèmes et algorithmes d’IA, et a déclaré que le défi n’est pas d’arrêter l’innovation, mais de la guider en étant conscient de son ambivalence.
« C’est à chacun de nous d’élever la voix pour défendre l’être humain », a-t-il écrit, pour que les outils puissent être utilisés comme des alliés, selon le La poste chrétienne.
Le message du pape a été publié quelques jours après que Yuval Noah Harari a une fois de plus déclaré que le l’intelligence artificielle ne doit pas être traitée comme un simple outil, mais comme un « agent » capable de créer de nouvelles choses et de prendre des décisions.
« Nous pensons toujours que nous pouvons utiliser ces objets simplement comme des outils. Mais s’ils savent penser, ils sont des agents », a-t-il déclaré, comparant l’IA à « un couteau qui peut décider tout seul » s’il sera utilisé pour une tâche commune ou pour commettre un crime.
