Désarmer l'IA : ce que le pape Léon XIV oblige à voir
Le 25 mai 2026, dans la salle du synode du Vatican, Léon XIV a publié sa première encyclique. Magnifica humanitas. Et là où tout le monde attendait une parole prudente sur l’innovation, le pape a employé un verbe rare : désarmer. L’intelligence artificielle, a-t-il dit, doit être désarmée, libérée des logiques qui en font un instrument de domination, d’exclusion ou de mort. La formule n’est pas anodine. Elle qualifie. Le mot range l’IA, au moins partiellement, dans la catégorie des armes. C’est un acte politique au sens fort, posé par un acteur que personne ne soupçonne d’opportunisme tech. Pour la première fois depuis longtemps, un discours moral majeur entre frontalement dans un débat technique abandonné jusque-là aux régulateurs, aux ingénieurs et aux conseils d’éthique d’entreprise. Et il choisit ses mots avec précision. Ni « réguler », ni « cadrer ». Désarmer. Ce déplacement vaut la peine d’être lu sérieusement, même par ceux qui n’ont aucun intérêt pour Rome.
L'irruption morale dans un débat technique
Le débat sur l’éthique de l’IA souffre d’une infirmité depuis dix ans. Il est tenu, presque entièrement, par les acteurs qui ont intérêt à ne pas le radicaliser. Les grandes plateformes publient des chartes internes. Du côté des régulateurs européens, on vote un AI Act important mais technique, calibré pour ne pas freiner la compétitivité du continent. Les conseils d’éthique d’entreprise se réunissent à huis clos et accouchent de principes flous. Tout le monde parle d’éthique. Personne, ou presque, ne parle de morale. La différence n’est pas qu’académique. L’éthique opère dans le cadre d’une activité légitime, elle en règle les usages. La morale, elle, ose poser la question préalable : cette activité est-elle, en l’état, encore légitime ? C’est exactement ce déplacement que produit l’encyclique de Léon XIV. Elle ne demande pas comment encadrer l’IA. La vraie question qu’elle pose, c’est de quoi l’IA est faite, ce qu’elle fait au tissu humain, et si certaines de ses formes actuelles méritent encore le droit d’exister. Cette question, aucun acteur économique ne pouvait la poser. Nul régulateur démocratique ne s’y est risqué frontalement. Il fallait une voix sans intérêt direct dans la chaîne de valeur. Le pape n’a pas d’actions OpenAI. Aucun modèle propriétaire à défendre. Pas de quota d’innovation à atteindre. Cette extériorité radicale est précisément ce qui rend sa parole opérante. On peut être athée, agnostique, en désaccord profond avec Rome sur d’autres sujets, et reconnaître quand même qu’une voix qui parle depuis dehors ouvre un espace que l’intérieur du débat technique avait refermé.
Désarmer, ce verbe choisi avec soin
Ce verbe suppose qu’on est en présence d’une arme. Le vocabulaire diplomatique le connaît bien : on désarme un État, on désarme un acteur belligérant. Aucune technologie « neutre » ne se voit jamais imposer ce mot. En le choisissant, Léon XIV qualifie politiquement le statut actuel de l’IA. Il dit, sans détour, qu’elle est devenue, dans une partie de ses usages, un instrument capable de blesser, d’écraser, de tuer. La formulation est précise. Elle ne porte pas sur l’IA en général, abstraction théorique, mais sur les logiques qui en font un instrument de domination, d’exclusion ou de mort. Trois mots qui couvrent un spectre vaste. Domination, par concentration de pouvoir technique entre quelques acteurs privés. Exclusion, par tri algorithmique des accès à l’emploi, au crédit, aux soins, à la mobilité. Mort, par usage militaire des systèmes autonomes. Ce que l’encyclique met en mots, ce sont des réalités déjà documentées par des ONG, des journalistes, des chercheurs. Mais ces réalités restaient cantonnées dans des rapports techniques, lus par les convaincus. La force d’une parole morale, c’est de les faire entrer dans une conversation publique élargie, avec un poids symbolique que n’aura jamais aucun white paper. Et le verbe « désarmer » porte aussi, en creux, une promesse. Il suppose que l’on peut. Désarmer n’est pas détruire. Cela ne veut pas dire refuser. C’est défaire le caractère armé d’un outil, lui retirer ce qui en fait, en l’état, une menace. Comme une logique de gouvernance par recours, un droit à l’explication, une interdiction des systèmes autonomes létaux, ou la transparence des chaînes de sous-traitance humaine. La conclusion logique : garder l’outil, lui ôter ses crocs. Projet politique, pas renoncement technique.
Les nouvelles formes d'esclavage
L’encyclique emploie une autre formule qui mérite qu’on s’y arrête. Léon XIV parle de nouvelles formes d’esclavage pour désigner les conditions matérielles qui rendent l’IA possible. La phrase est dure. Volontairement dure. Elle pointe d’abord ce qu’on désigne aujourd’hui sous le nom poli de travailleurs invisibles de l’IA. Au Kenya, au Venezuela, aux Philippines, à Madagascar, des dizaines de milliers de personnes annotent des données, filtrent des contenus violents, étiquetent des images, modèrent des flux toxiques. Ces personnes sont les conditions de possibilité technique des modèles génératifs qu’utilise le monde entier. Elles travaillent souvent pour deux dollars de l’heure, parfois moins. Beaucoup sont exposées à des contenus qui les traumatisent durablement. Aucune n’apparaît dans le moindre communiqué de presse de levée de fonds. Cette première dimension du mot « esclavage » est documentée. Mais l’encyclique va plus loin. Elle suggère que cette logique de dépossession ne s’arrête pas à la chaîne de production. Sa portée vise aussi les utilisateurs finaux, dans la mesure où certains usages de l’IA reposent sur une captation continue d’attention, de données comportementales, de fragments de vie privée, qui constituent la vraie monnaie d’échange du système. Cette logique, je l’ai analysée ailleurs dans une lecture plus politique. Elle rejoint la nouvelle loterie algorithmique qui structure désormais nos accès à l’emploi, au crédit, aux soins. Et elle prolonge, plus structurellement encore, ce que représente le travail humain invisible qui rend l’IA possible, sans qui aucun de ces modèles ne tournerait. Ce mot, esclavage, est probablement excessif au sens juridique strict. Il est probablement juste au sens politique large : il nomme un rapport de force où une partie de l’humanité produit, gratuitement ou presque, la matière première dont une autre partie tire la valeur entière.
Aucun algorithme ne rend la guerre acceptable
L’autre ligne rouge tracée par l’encyclique porte sur l’IA militaire. Léon XIV affirme qu’aucun algorithme ne peut rendre la guerre moralement acceptable. La phrase paraît évidente. Elle ne l’est pas. Depuis dix ans, l’industrie de l’armement, accompagnée par certains gouvernements, défend l’idée inverse : que les systèmes autonomes létaux, en remplaçant la décision humaine par un calcul, peuvent réduire les pertes civiles, mieux discriminer les cibles, rendre la guerre, au fond, plus propre. Cette thèse est techniquement contestable. Elle est surtout moralement piégeuse. Le piège : elle transfère à l’algorithme la charge éthique d’une décision qui, par sa nature même, ne peut être déléguée. Tuer engage. La décision de tuer reste, dans toutes les traditions juridiques sérieuses, une décision humaine qui doit pouvoir être interrogée, jugée, condamnée si nécessaire. Quand un drone autonome décide seul de la cible, la décision se dilue. Le pilote n’a pas tiré. Aucun développeur n’a appuyé sur la détente. Le commanditaire militaire peut renvoyer au système. Et le système ne répond pas. Cette dilution est exactement le mécanisme que Léon XIV refuse. Pas par technophobie. Par cohérence avec un principe ancien : la responsabilité ne se délègue pas à ce qui ne peut pas en porter le poids. La position est forte parce qu’elle vient avec une autorité morale historique. Mais elle est aussi forte parce qu’elle pose les bonnes questions au bon moment. Les négociations sur les systèmes d’armes autonomes traînent depuis des années à la Convention des Nations unies sur certaines armes classiques. Une parole comme celle-ci ne suffira pas à débloquer ces négociations. Elle redéfinit, au moins, le champ symbolique dans lequel elles se déroulent.
Vers une éthique qui ose nommer
Le geste de Léon XIV mérite d’être lu pour ce qu’il fait à notre langage. Pendant dix ans, on a parlé d’éthique de l’IA en mobilisant un vocabulaire technique, prudent, calibré pour ne froisser personne. Bias mitigation. Responsible AI. Alignment. Ce vocabulaire a son utilité. Et il a aussi sa limite. La morale, dans ce langage, se vide peu à peu de sa fonction première, qui est de nommer ce qui se passe avec des mots assez précis pour qu’on ne puisse pas faire semblant de ne pas voir. Désarmer. Esclavage. Moralement inacceptable. Ces mots-là appartiennent à une grammaire ancienne, et c’est précisément pour cela qu’ils opèrent. Ils rappellent qu’avant d’être un problème d’ingénierie, l’IA est un fait politique majeur, qui touche à la dignité, au travail, à la guerre, à la possibilité même de la responsabilité. On peut être en désaccord avec Rome sur beaucoup d’autres sujets. Considérer aussi que sa parole ne suffit pas, et qu’il faudra d’autres voix, plus séculières, plus diverses, plus situées, pour relayer ce geste. Mais on ne peut pas continuer à parler d’éthique de l’IA en feignant d’ignorer qu’une parole majeure vient d’être prononcée. Le débat est rouvert. Reste à savoir ce que les autres acteurs en feront.
« Le courage moral commence quand on cesse d'appeler 'enjeu' ce qui est en réalité un rapport de force. »
Vous souhaitez engager une réflexion sur l'IA éthique dans votre organisation ?
Et si la vraie maturité d'une société face à l'IA tenait moins à ses chartes qu'à sa capacité à reprendre la grammaire morale de ce qu'elle voit ?