Citant Gandalf, le Pape Léon affirme que nous devons « désarmer » l’IA
Le Pape François a publié un message pour la Journée mondiale de la paix 2025, dans lequel il cite Le Seigneur des Anneaux de J.R.R. Tolkien pour mettre en garde contre les dangers de l’intelligence artificielle.
Dans le message, le Pape cite une conversation entre Gandalf et Frodon dans La Communauté de l’Anneau, où Gandalf explique qu’il refuserait d’utiliser l’Anneau de Pouvoir même s’il lui était offert, car « le désir d’utiliser l’Anneau pour faire le bien m’apporterait un pouvoir trop grand et trop terrible ».
Le Pape utilise cette référence pour argumenter que nous devons « désarmer » l’intelligence artificielle et établir des limites éthiques sur son développement et son utilisation.
« Comme Gandalf l’a sagement reconnu, certains pouvoirs sont si grands que personne ne peut prétendre les manier avec sagesse, même avec les meilleures intentions », écrit le Pape François.
Le message met en garde contre le fait de permettre à l’IA de prendre des décisions qui devraient rester dans le domaine du jugement humain, particulièrement dans les domaines de la guerre, de la justice et du contrôle social.
Le Pape appelle à un traité international pour garantir que l’intelligence artificielle soit développée et utilisée de manière éthique, respectant la dignité humaine et le bien commun.
« Nous devons veiller à ce que les algorithmes ne déterminent pas notre compréhension des droits de l’homme, ne mettent pas de côté les valeurs de compassion, de miséricorde et de pardon, et n’éliminent pas la possibilité qu’une personne change et laisse son passé derrière elle », déclare le message papal.
Le message de la Journée mondiale de la paix est une tradition annuelle du Vatican, généralement publié le 1er janvier et adressé non seulement aux catholiques mais à toutes les personnes de bonne volonté à travers le monde.
