IA qui décide à notre place : la nouvelle loterie algorithmique
En 2026, l’usage d’outils algorithmiques s’est généralisé dans la majorité des grandes entreprises européennes pour au moins une étape de leurs décisions RH, selon les enquêtes successives de l’Observatoire de l’OCDE sur l’IA. Ces systèmes filtrent, classent, écartent. Ils n’expliquent jamais leur verdict. La décision arrive comme une sentence, propre, sans visage, sans appel possible. Derrière la promesse d’objectivité computationnelle, une autre loterie est en train de naître. Discrète. Plus discrète que celle du hasard de la naissance, et pourtant tout aussi déterminante. On nous avait promis la fin des biais humains. Au lieu de quoi nous récoltons des biais machinés à grande échelle, encodés dans la rigueur d’une équation. La question n’est plus de savoir si l’IA décide à notre place. Elle décide déjà. Le vrai sujet est de comprendre qui en assume le poids quand la décision se trompe, et qui dispose encore d’un droit de regard sur ce qu’elle produit.
L'algorithme comme nouveau juge invisible
Le recrutement automatisé n’est qu’un cas parmi d’autres. Aux États-Unis, des systèmes algorithmiques ont été déployés dans le calcul des libertés conditionnelles, l’évaluation du risque de récidive, l’attribution des prestations sociales. En Europe, ils interviennent dans le scoring de crédit, l’allocation de soins, la priorisation des urgences. Selon les travaux de l’AI Now Institute, plus de la moitié des États membres de l’OCDE ont déployé au moins une forme d’automated decision-making dans leurs services publics. Ces décisions touchent des vies. Elles passent inaperçues parce qu’elles arrivent emballées dans le vocabulaire feutré du progrès. Personne ne dit « l’algorithme vous condamne ». La formulation se fait douce : un profil qui ne correspond pas, un score insuffisant, une candidature non retenue par le système. Le verdict tombe, lisse comme une notification. Ce que cette grammaire masque, c’est qu’une décision a bel et bien été prise, et qu’elle a un poids comparable à celle d’un juge, d’un recruteur, d’un médecin. Mais sans le contradictoire. Sans l’obligation de motiver. Aucune possibilité, pour celle ou celui qui subit, de regarder dans les yeux l’instance qui tranche. C’est cette absence qui transforme l’outil en autorité. Et toute autorité non interrogée finit, tôt ou tard, par devenir un pouvoir.
Le mythe de l'objectivité computationnelle
L’idée que la machine serait par nature plus juste que l’humain repose sur un raccourci. Un algorithme n’invente rien. Il apprend des données qu’on lui donne, données elles-mêmes produites par des décisions humaines antérieures, biaisées, situées, héritées. Quand Amazon a tenté en 2018 de déployer un système de tri automatisé des candidatures, le modèle a appris à pénaliser systématiquement les CV contenant le mot « femmes », parce que les données historiques de l’entreprise reflétaient des décennies de discrimination implicite. Le cas est connu. Il a été enterré, puis refait, sous d’autres noms, dans d’autres secteurs, par d’autres acteurs qui n’ont pas eu le courage médiatique de communiquer leur échec. La mathématicienne Cathy O’Neil parle d’armes de destruction mathématique pour désigner ces modèles qui répliquent et amplifient les inégalités, tout en se présentant comme neutres. Ce qui rend ces outils particulièrement redoutables, c’est leur capacité à blanchir la décision. Quand un humain refuse un prêt, on peut lui demander pourquoi. Si un algorithme refuse le même prêt, la banque elle-même ne sait souvent pas répondre. La responsabilité se dilue dans l’opacité technique. Le biais ne disparaît pas. Il change de forme, prend l’apparence d’une vérité chiffrée, devient incontestable parce qu’illisible. Plusieurs chercheurs en éthique de l’IA, parmi lesquels les travaux pionniers de Joy Buolamwini et de l’AI Now Institute, parlent de « blanchiment du biais » par la technique. Plus le modèle est complexe, plus son verdict semble objectif. Et plus ce verdict semble objectif, plus il devient difficile à contester. La performance technique de l’opacité produit, paradoxalement, son autorité morale.
Quand la loterie de naissance se traduit en code
J’ai consacré un livre entier à cette idée que le hasard de la naissance détermine, en grande partie, l’accès à la dignité, à la sécurité, à la possibilité. La loterie n’est pas une métaphore. C’est un fait statistique. Et ce fait, les algorithmes ne le corrigent pas. Ils le digèrent, le formalisent, lui donnent la puissance d’un calcul. Un système qui estime votre solvabilité regarde votre code postal. L’outil qui évalue votre potentiel professionnel scanne votre école d’origine. Le modèle qui priorise les soins lit votre historique médical, lui-même produit par l’accès inégal au diagnostic. Aucun de ces systèmes ne se déclare raciste, classiste ou genré. Tous le sont, parce qu’ils héritent des données du monde tel qu’il est, pas du monde tel qu’il devrait être. C’est ce que Françoise Héritier appelait, dans un autre contexte, la valence différentielle des sexes : un système de hiérarchie qui se reproduit silencieusement parce qu’on a cessé de le nommer. L’algorithme contemporain est l’héritier direct de cette mécanique. Il opère sur des proxies, des variables qui ne disent pas ouvertement l’origine sociale, mais qui en sont les traductions fidèles. Un système qui mesure le mérite ne mesure jamais qu’un mérite documenté, c’est-à-dire un mérite déjà autorisé à se manifester dans les bonnes formes, dans les bonnes écoles, avec les bons mots. Le résultat est troublant. On parle de discrimination algorithmique comme s’il s’agissait d’un dérapage technique, alors que c’est la structure même qui produit ce résultat. Cette logique rejoint l’illusion méritocratique que j’analysais récemment : un système qui mesure l’effort sans corriger les conditions de départ. Aucune ligne de code n’est neutre quand elle s’entraîne sur un monde injuste. Nul modèle prédictif ne se contente de décrire : il prescrit. Le modèle acte ce qui sera en répliquant ce qui a été. La loterie de la naissance n’est plus seulement un héritage social. Elle devient un actif technique, mesurable, exploitable, vendu sous forme d’API.
L'accountability gap : personne n'a décidé, tout le monde subit
Le problème devient politique au moment où la décision se passe de décideur. Quand un humain tranche, il peut être interpellé, mis en cause, sommé de rendre des comptes. À qui adresse-t-on la question quand un algorithme tranche ? Au développeur qui a écrit la ligne de code six ans plus tôt ? À l’entreprise qui a acheté le modèle sur étagère ? Au régulateur qui aurait dû encadrer ? À l’utilisateur final qui a appuyé sur « valider » ? Cette dilution est l’enjeu central de l’éthique de l’IA aujourd’hui. Le Règlement européen sur l’intelligence artificielle, entré en application en 2024 et désormais pleinement contraignant, tente de poser des balises. Il distingue les systèmes à haut risque, impose des audits, exige une supervision humaine pour les usages les plus sensibles. Reste que la pratique est en retard sur le texte. Les entreprises continuent de déployer des systèmes opaques, et les voies de recours pour les personnes affectées restent embryonnaires. Cette opacité s’appuie aussi sur le travail humain invisible qui rend l’IA possible, ces annotateurs et modérateurs sans qui aucun de ces modèles ne tournerait. Voilà ce que produit l’accountability gap. Une chaîne où chacun peut renvoyer la responsabilité à l’étage d’à côté. Au bout de cette chaîne, la personne qui subit reste seule en face d’un mur de verre. L’éthique ne se joue pas dans le code, elle se joue dans la possibilité d’opposer à la machine un visage qui demande des comptes, et de trouver, en face, un autre visage qui réponde.
Vers une éthique du recours
L’éthique de l’IA, telle qu’elle est trop souvent racontée, se concentre sur l’amont. Mieux entraîner les modèles. Diversifier les datasets. Auditer les biais avant déploiement. Tout cela est nécessaire, et insuffisant. Le vrai déplacement, celui qui change la nature politique de la conversation, se joue à l’aval. Dans la possibilité, pour chaque personne soumise à une décision automatisée, d’exiger une explication claire, une voie de contestation effective, une révision par un être humain habilité à dire non à la machine. Ce droit existe sur le papier, dans le RGPD comme dans l’AI Act européen. Reste à l’incarner dans les pratiques. Une éthique du recours n’est pas une éthique de la méfiance envers l’IA. C’est une éthique de la dignité, qui pose comme principe que toute personne mérite d’être entendue par une autre personne quand sa vie est en jeu. Cette exigence n’est ni une nostalgie du jugement humain pré-numérique, ni un soupçon généralisé contre la machine. À l’inverse, c’est la condition pour que l’IA tienne ses promesses sans devenir l’alibi technique d’une déresponsabilisation collective. Le code peut tout. Il ne sait pas répondre du regard de celle qui le subit. Ce regard doit garder un destinataire. Une vraie gouvernance de l’IA ne se mesure pas au nombre de modèles entraînés. Elle se mesure au nombre de décisions qui peuvent être rouvertes, discutées, défaites quand elles sont injustes.
« Une décision sans visage reste une décision. Et toute décision qui pèse sur une vie doit pouvoir être interrogée par celle qui la subit. »
Vous souhaitez engager une réflexion sur l'IA éthique dans votre organisation ?
Et si la vraie éthique de l'IA commençait par le droit d'opposer à la machine un visage qui demande des comptes ?