Le pape Léon XIV veut « désarmer » l'intelligence artificielle

Une encyclique sur l’intelligence artificielle qui mérite qu’on s’y arrête

Le pape Léon XIV a présenté Magnifica Humanitas ou « la magnifique humanité », sa première encyclique, entièrement consacrée à l’intelligence artificielle. Et dans le contexte actuel, où la course à l’IA ressemble parfois à une fuite en avant sans garde-fous, ce texte mérite qu’on s’y arrête, même si on n’est pas croyant.

L’encyclique a officiellement été signée le 15 mai dernier (une date choisie avec intention, puisqu’elle coïncide avec le 135ᵉ anniversaire de Rerum Novarum).

Pourquoi la référence à Rerum Novarum est importante

En 1891, le pape Léon XIII avait pris la défense des ouvriers face aux excès de la révolution industrielle. Cent trente-cinq ans plus tard, son successeur fait le même geste, face à une révolution d’une autre nature… celle des algorithmes, des données.

Le message implicite est clair : ce qui se joue aujourd’hui avec l’IA est aussi fondamental que ce qui se jouait avec la machine à vapeur.

Pourquoi le pape veut-il « désarmer » l’intelligence artificielle ?

Le document est imposant et autant dire que Léon XIV ne s’est pas contenté d’un tweet. Il a pris le temps de construire une pensée, de l’argumenter, de la nuancer.

Et la formule qu’il a choisie pour la résumer est frappante : l’intelligence artificielle doit être « désarmée » ! Gloups !

Désarmer l’IA ne signifie pas l’interdire

Le mot est fort et provocateur car il ne s’agit pas d’interdire l’IA, ni de la craindre par principe. Il s’agit de la libérer (c’est le terme qu’emploie le pape) des logiques qui en font un outil de domination, d’exclusion ou de mort.

La question des armes autonomes

Parce que oui, l’IA peut tuer. Le texte mentionne explicitement les systèmes d’armes autonomes, ces machines de guerre qui peuvent agir sans véritable décision humaine. Pour Léon XIV, c’est une ligne rouge morale qu’on ne peut pas franchir.

Derrière l’IA, une réflexion sur le pouvoir et le progrès

Mais l’encyclique va bien au-delà du champ militaire. Ce qu’elle interroge, c’est quelque chose de plus profond… dans quel monde sommes-nous en train d’entrer, et au profit de qui ?

Le pape refuse de trancher entre les enthousiastes de la tech et les cassandres du numérique. Il dit simplement que le vrai choix n’est pas là.

Ce qui compte, c’est de savoir si le progrès technologique sert les personnes (toutes les personnes) ou s’il renforce le pouvoir de quelques-uns au détriment du reste du monde.

Face au transhumanisme, l’humain reste irremplaçable

Et c’est peut-être ce qui rend ce texte plus pertinent qu’on ne l’aurait cru.

L’Église n’arrive pas les mains vides dans ce débat. Elle apporte une tradition de pensée centrée sur la dignité humaine, le bien commun et la solidarité, qui offre un cadre pour penser les dérives.

Ce n’est pas une liste de bonnes intentions, c’est une grammaire, comme l’appelle le pape lui-même, pour lire ce qui se passe vraiment.

La critique du transhumanisme

Face au transhumanisme (cette idée que la technologie pourrait un jour dépasser ou remplacer l’humain), Léon XIV est catégorique.

Il y a des dimensions de l’être humain que rien ne peut reproduire : la liberté, l’intériorité, l’Amour, le doute.

Pas parce que la technologie serait mauvaise, mais parce qu’il y a en nous quelque chose qu’aucune machine ne saura jamais mesurer… et parce qu’un être humain, ça ne se résume pas à des données.

Que faut-il retenir de Magnifica Humanitas ?

Ce qu’on peut retenir du Magnifica Humanitas, finalement, ce n’est pas une condamnation de l’IA.

C’est une invitation à poser des questions que trop peu d’entre nous osent vraiment poser.

À quoi sert réellement le progrès ?

À quoi sert le progrès ? Pour qui ? Et au nom de quoi sommes-nous prêts à sacrifier certaines valeurs fondamentales sur l’autel de la rentabilité ?

À l’heure où les grandes puissances se livrent une course effrénée pour dominer l’IA, où les géants de la tech accumulent une influence sans précédent sur nos vies et où les régulations peinent à suivre, une voix qui parle à plus d’un milliard de personnes dans le monde et qui dit « attendez, posons-nous les bonnes questions » mérite probablement d’être entendue.

Et vous, qu’en pensez-vous, l’intelligence artificielle est-elle un danger pour l’humanité ou on dramatise ?