Léon XIV conserve une vigilance extrême autour des questions d’intelligence artificielle. S’adressant aux participants d’une rencontre sur les défis de l’IA, organisée par l’Académie pontificale pour la Vie, il a exprimé une certaine inquiétude, estimant que si nous discernons la direction à prendre, nous n’agissons pas encore suffisamment pour avancer dans cette voie. Une démarche transdisciplinaire est nécessaire pour affronter la complexité des grands défis de notre temps. Il a partagé cinq préoccupations qui sont autant d’appels à la communauté internationale.
1/ « Nous avons la responsabilité d’orienter les applications de l’IA, de les modifier et, lorsque cela est nécessaire, de les refuser. La question est : « Quelle finalité doit-elle servir ? » « Un système fiable, au service de la personne humaine, a davantage de valeur qu’un système d’une puissance exceptionnelle dont les conséquences ne peuvent être suffisamment anticipées ou maîtrisées. »
2/ « Il faut rappeler que les machines sont des outils, non des personnes. » « Les intelligences dites artificielles ne font pas l’expérience vécue des choses, ne possèdent pas de corps, n’éprouvent ni joie ni douleur, ne mûrissent pas au fil des relations et ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié ou la responsabilité ». « Le risque est là d’occulter la responsabilité humaine et de laisser les victimes de dommages face à une entité sans visage. »
3/ « Le risque qu’une personne soit réduite à une simple donnée. Les décisions qui touchent à la vie humaine, à la liberté et au recours à la force doivent toujours rester soumises à un contrôle humain effectif, éclairé et responsable. Il faut donc l’interdiction des armes létales autonomes. »
4/ « Les technologies intelligentes doivent être orientées vers le bien commun. Elles ne doivent jamais devenir des fins en elles-mêmes ni servir les seuls intérêts de quelques privilégiés. Que les fruits du progrès soient équitablement partagés, en particulier avec ceux qui en ont le plus besoin. »
5/ « Un défi qui est peut-être le plus urgent : des institutions capables de mettre ces principes en pratique, en particulier des institutions internationales efficaces, à même de préserver le bien commun mondial. Que l’utilisation de l’IA puissent être examinées, contestées lorsque cela est nécessaire, et assorties de mesures appropriées de réparation des préjudices causés. »
Participant à ce colloque, le Fr. Paolo Benanti a clairement critiqué le discours de la peur qui n’est pas un discours éthique. L’éthique ne cherche pas simplement à éviter le mal : elle cherche à faire le bien. Le Saint-Siège vise à favoriser autant que possible l’avènement du Royaume de Dieu et à contribuer à sa réalisation dans l’histoire. Sa parole s’inscrit donc dans une perspective où le bien constitue déjà l’horizon de référence et où sa victoire est, en quelque sorte, déjà acquise. Il ajoutait que « le risque ne réside pas dans l’intelligence artificielle, mais dans la stupidité naturelle ! Autrement dit, le danger est que l’être humain ne s’interroge pas suffisamment sur la nature de cet outil et lui demande des choses qu’il ne devrait pas lui demander, mettant ainsi en péril la dignité humaine elle-même. » A la question de savoir si une intelligence artificielle honnête est possible, il a répondu « qu’avant même de disposer d’une intelligence artificielle honnête, il préfère avoir une intelligence artificielle transparente. Une telle intelligence artificielle devrait rendre visibles les présupposés sur lesquels elle est construite, notamment les données qui ont été incluses et celles qui ont été exclues. Elle devrait surtout révéler le coût social du travail invisible, parfois mal rémunéré, qui a été nécessaire à sa conception et à son fonctionnement. Il s’agit du travail humain qui se cache derrière ces systèmes, lesquels sont présentés à un Occident riche comme s’ils étaient immatériels et dépourvus de coûts. »
