A quelques jours de la visite en France du Pape Léon XIV, le frère franciscain Paolo Benanti a prononcé la leçon inaugurale de rentrée de l’Ecole Normale Supérieure (ENS), offrant son interprétation de la lettre Magnifica Humanitas et la position de l’Église catholique sur le futur de l’humanité à l’ère de l’intelligence artificielle.
Paolo Benanti a mis en évidence le fait que depuis l’aube de la cybernétique, « la machine est toujours une machine à gouverner », c’est-à-dire susceptible de déplacer les lieux de pouvoir. Nous vivons tous aujourd’hui « sous licence » des géants du numérique. Parce que le pouvoir computationnel s’impose aux Etats, aux citoyens, il plaide pour que le destin de l’IA relève de l’autorité politique et s’ouvre à des considérations théologiques. Il faut donner une réponse à ce nouvel état du pouvoir technologique qui menace la vie démocratique et les fondamentaux de l’État moderne. Sa parole faisait écho à ce passage de Magnifica humanitas :
« Le développement technologique modifie rapidement les langages, les relations, les institutions et les formes de pouvoir, nous devons et pouvons choisir à quel projet travailler et avec quel style pour préserver et valoriser la magnifique humanité qui nous est offerte en don. » MH n°90
Il souligna que l’IA n’est pas d’abord une question technologique mais anthropologique, car il appartient toujours à l’humain, en dernière analyse de décider du développement et du déploiement de l’IA.
Non que l’IA ne soit pas utile, au contraire ; mais les conséquences de son utilisation peuvent s’avérer pénible pour les personnes et déshumanisante pour les sociétés. Les IA nous isolent en nous accompagnant tout le temps. Comment rester humain dans une "société machine" et préserver les compétences relationnelles essentielles qui font notre humanité ? Telles sont les questions théologiques et anthropologiques que posent l’IA.
Lorsque nous confions à des « machines parlantes » le soin de rédiger nos messages, de simuler des conversations ou de structurer nos idées, nous déléguons bien davantage qu’une tâche technique. Nous substituons des interactions avec des machines à des relations avec des personnes. La délégation d’une part de l’effort cognitif et émotionnel à des machines entraîne une éviction de l’autre et une perte de capacité relationnelle. À force d’interagir avec des systèmes conçus pour être ultra-efficaces, prévisibles et entièrement centrés sur nos besoins, notre tolérance à la complexité des relations humaines diminue. L’usage récurrent de machines installera une réelle atrophie relationnelle. Les personnes humaines sont imprévisibles et complexes. Elles demandent de la sensibilité et de la patience. Le confort des interactions avec l’IA fait courir le risque d’une forme de régression dans l’art de l’écoute et de l’attention à l’humain. Le Pape Léon XIV s’exprimait en ce sens :
« J’invite à préserver les lieux et les moments où la présence physique reste déterminante : la table partagée, la communauté chrétienne qui se rassemble, la visite à ceux qui sont seuls, le service aux pauvres. » n°239
Plus largement, l’immersion dans un environnement de machines fait courir le risque paradoxal de l’isolement "connecté", avec le remplacement de la véritable altérité par des simulations. Des interactions sans friction avec des « machines parlantes » offrent une satisfaction immédiate sans jamais se confronter au désaccord. En investissant du temps et de l’énergie mentale à "répondre" à des algorithmes, notre attention pour notre entourage direct s’amenuise.
Ce que le Pape Léon XIV n’a pas manqué de souligner dans son encyclique sur la protection de la personne humaine à l’ère de l’IA :
« L’imitation artificielle d’une communication humaine positive – paroles de conseil, d’empathie, d’amitié, d’amour – peut induire en erreur et donner l’illusion d’être en relation avec un sujet personnel authentique. Lorsque la parole est simulée, elle ne construit pas une relation, mais son apparence. L’imitation artificielle de la relation de soins ou d’accompagnement peut devenir dangereuse lorsqu’elle s’insinue dans un contexte pauvre en relations et en affections réelles : le risque n’est alors pas tant qu’une personne croie parler à une autre personne, mais qu’elle perde le désir même de rechercher véritablement l’autre. » n°100
L’empathie humaine est mise au défi de nos interactions numériques. Comment préserver notre humanité, sinon en acceptant de valoriser la friction, l’inconfort et le débat d’idées avec de véritables personnes ? Seul l’humain humanise et forge notre esprit critique.
« La puissance de l’IA reste exclusivement liée au traitement des données : les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité. » n°99
Selon Paolo Benanti, la lettre du Pape est une question posée au monde et non une solution à des problèmes. La question doit être entendue pour qu’ensemble nous parvenions à déterminer la solution qui protège l’humanité.
