IA : qui écrit les règles quand les géants s'en chargent ?
Le 14 septembre 2026, CNN rapportait, après le média spécialisé The Information, qu’Anthropic, Google et OpenAI avaient discuté de la création de leur propre organisme de standards pour la sécurité de l’intelligence artificielle. Selon des sources restées anonymes, l’idée viendrait de Demis Hassabis, le fondateur de Google DeepMind, et remonterait à juillet. Rien n’est arrêté : ni structure, ni date de lancement. Les trois entreprises ont décliné tout commentaire officiel, à l’exception de Sam Altman, qui a dit attendre avec intérêt de collaborer avec ses collègues de l’industrie. Sept semaines plus tôt, le 27 juillet, entrait en vigueur l’omnibus numérique européen, qui repousse au 2 décembre 2027 l’application des règles de l’AI Act aux systèmes d’IA à haut risque, initialement prévue pour août 2026.
Deux nouvelles, publiées à quelques semaines d’écart, sans lien apparent. Je les lis ensemble, parce qu’elles posent la même question. Qui écrit les règles d’une technologie qui trie déjà les candidatures, attribue des crédits et oriente des diagnostics ?
Un club de standards, saison deux
L’idée d’une instance commune aux grands laboratoires n’a rien d’inédit. Le 26 juillet 2023, Anthropic, Google, Microsoft et OpenAI annonçaient la création du Frontier Model Forum, un organisme chargé de promouvoir le développement sûr et responsable des modèles d’IA les plus avancés. Trois ans plus tard, les mêmes acteurs, moins Microsoft, envisagent d’aller plus loin : non plus échanger des bonnes pratiques, mais fixer des standards.
La différence compte. Une bonne pratique se recommande, un standard s’impose. Il définit ce qu’il faut tester, comment le tester, à partir de quel seuil un système est jugé sûr. Une fois adopté, il devient la référence que l’on cite devant un régulateur, un client, un tribunal. Jakub Pachocki, directeur scientifique d’OpenAI, l’a formulé avec franchise en réagissant aux informations de presse : à ses yeux, des standards de sécurité partagés et une coordination internationale doivent désormais devenir des priorités. Sur le principe, difficile de lui donner tort. Quant à la méthode, tout dépend de qui tient le stylo.
Le contexte américain éclaire la démarche. Faute de loi fédérale, la Maison-Blanche s’appuie sur un dispositif volontaire d’examen des modèles avant leur sortie. Les laboratoires remplissent le vide qu’ils constatent. On peut comprendre la logique. Il faut aussi en voir la conséquence : dans un domaine où l’État recule, la norme privée devient la norme tout court.
D’autres secteurs ont connu cette tentation. Avant la crise de 2008, la finance mondiale vantait sa capacité à évaluer elle-même ses risques, avec des modèles internes que les superviseurs validaient sans toujours les comprendre. On connaît la suite. L’autorégulation fonctionne tant que l’intérêt de l’entreprise et l’intérêt général coïncident. Elle cède précisément au moment où ils divergent, c’est-à-dire au moment où l’on aurait besoin d’elle.
Une norme n'est jamais neutre
Un standard technique a l’air d’un objet froid, fait de seuils, de protocoles et de grilles d’évaluation. Il est en réalité un concentré de choix politiques. Décider de ce qu’on mesure, c’est décider de ce qui compte. Ce qu’on ne mesure pas disparaît du champ de la sécurité.
Quand les grands laboratoires parlent de sécurité, ils parlent d’abord de risques extrêmes : armes biologiques, cyberattaques massives, perte de contrôle de systèmes autonomes. Ces risques sont réels et méritent toute l’attention qu’on leur porte. Ils laissent pourtant dans l’ombre des dommages moins spectaculaires et beaucoup plus fréquents : l’outil de tri de CV qui écarte les femmes revenant d’un congé parental, le score de crédit qui pénalise un code postal, l’assistant médical entraîné sur des données qui sous-représentent certains corps. J’ai décrit ailleurs comment les biais algorithmiques recompilent nos inégalités. Une norme écrite sans les personnes qui subissent ces biais a toutes les chances de les classer parmi les détails.
La composition des équipes qui écrivent compte autant que leurs intentions. Une personne qui n’a jamais vu sa candidature écartée pour un trou dans son CV ne pense pas à tester cette situation. Celle qui n’a jamais été mal comprise par un assistant vocal ne voit pas l’accent comme un risque. Chaque angle mort d’une équipe devient un angle mort de la norme, puis de tous les systèmes qui s’y conformeront. La diversité, ici, relève de la rigueur méthodologique bien plus que de la vitrine.
Le problème est structurel, quelle que soit la bonne foi des dirigeants concernés. Une entreprise qui écrit la règle qu’elle devra respecter se trouve, par construction, en situation de conflit d’intérêts. On ne demande pas aux laboratoires pharmaceutiques de fixer seuls les critères d’autorisation de leurs médicaments, ni aux constructeurs automobiles de définir seuls les crash-tests. L’intelligence artificielle touche des décisions aussi vitales, et l’on s’apprête à lui appliquer une exception.
L'Europe ralentit, l'industrie accélère
Face à cette dynamique, l’Union européenne a fait un choix inverse de celui des États-Unis : légiférer. L’AI Act impose depuis le 2 août 2025 des obligations aux fournisseurs de modèles d’IA à usage général, accompagnées d’un code de bonnes pratiques publié le 10 juillet 2025. C’était une première mondiale.
Le calendrier s’est pourtant desserré. Selon la Commission européenne, l’omnibus numérique, proposé le 19 novembre 2025 et entré en vigueur le 27 juillet 2026, lie l’application des règles sur l’IA à haut risque à la disponibilité de normes harmonisées et d’autres mesures d’accompagnement. Ces règles s’appliqueront à partir du 2 décembre 2027, et celles qui concernent l’IA intégrée dans des produits physiques, des dispositifs médicaux aux jouets, à partir du 2 août 2028. La justification officielle est de laisser le temps de préparer les normes et de mettre en place les autorités nationales de contrôle.
L’argument se défend : une règle inapplicable ne protège personne. Le résultat mérite toutefois d’être regardé en face. Les systèmes qui décident de l’embauche, du crédit ou de l’accès aux soins continuent de fonctionner pendant seize mois supplémentaires sans les obligations prévues. Et l’entrée en vigueur de la loi dépend désormais des normes techniques, c’est-à-dire précisément de l’espace que les grands acteurs cherchent à occuper. Le stylo glisse, sans bruit, de la main du législateur vers celle des industriels.
Ce que coûte une règle écrite sans nous
La journaliste Parmy Olson a raconté, dans un livre que j’ai analysé sur ce site, la course entre OpenAI et DeepMind : deux projets nés d’idéaux humanistes, rattrapés par la logique de la puissance et du capital. Rien, dans cette histoire, ne permet de penser que l’intérêt général s’imposera spontanément autour d’une table où ne siègent que des concurrents.
J’utilise l’intelligence artificielle tous les jours, pour chercher, structurer, relire. Je ne fais pas partie de celles qui la rejettent par principe. C’est précisément pour cela que la question des règles me paraît décisive. Nous l’avons vu récemment avec l’affaire Orélien, où un détecteur commercial s’est retrouvé, en quelques jours, à faire office de juge de la légitimité d’un écrivain. Un outil privé devient une norme de fait dès que personne n’en conteste l’autorité.
Les absents de la table ont un visage. Il y a les citoyennes et citoyens dont les dossiers seront triés, les associations qui documentent les discriminations, les chercheuses qui travaillent sur l’équité des systèmes, les pays du Sud dont les langues et les réalités sont mal représentées dans les données. Tant qu’ils restent dehors, la sécurité se définira à partir des risques qui inquiètent ceux qui sont dedans.
Siéger à la table plutôt que commenter la porte
Je ne crois pas aux postures d’indignation qui laissent les décisions se prendre ailleurs. Les normes s’écrivent dans des comités, des consultations publiques, des groupes de travail ouverts aux contributions. Ces espaces sont arides, techniques, chronophages. Ils sont aussi l’endroit où se fixe ce qui sera jugé acceptable demain.
Trois exigences me paraissent raisonnables. Aucune norme élaborée par l’industrie ne devrait servir de référence réglementaire sans consultation publique préalable et sans évaluation indépendante. Les instances de normalisation devraient compter, avec voix délibérative, des représentantes de la société civile et des personnes concernées par les usages à haut risque. Enfin, les organisations qui achètent ces systèmes, entreprises comme administrations, disposent d’un levier considérable : exiger dans leurs appels d’offres des preuves d’audit sur les biais, et refuser ce qui ne les fournit pas.
L’intelligence artificielle est devenue une affaire de pouvoir, bien au-delà du cercle des ingénieurs, et le pouvoir se partage rarement de lui-même. Il se négocie, il se conquiert, il se partage parce que d’autres ont exigé une place.
Chacune et chacun peut commencer modestement. La Commission européenne soumet ses projets de textes et de lignes directrices à consultation publique, ouverte à tous les citoyens et à toutes les organisations. Les contributions des associations, des syndicats, des chercheuses y pèsent, à condition d’exister. Une réponse argumentée, déposée à temps, a plus d’effet qu’une indignation partagée sur un réseau social le jour où la décision tombe.
« Celui qui écrit la norme décide de ce qui compte comme un risque. Tant que nous ne sommes pas dans la pièce, nos vies restent un détail technique. »
Vous souhaitez engager une réflexion sur l'IA éthique dans votre organisation ?
Et si la prochaine grande bataille pour l'égalité se jouait dans les comités de normalisation, là où presque personne ne regarde ?