{"id":3618,"date":"2025-05-13T17:26:38","date_gmt":"2025-05-13T15:26:38","guid":{"rendered":"https:\/\/taniagombert.com\/?p=3618"},"modified":"2025-11-01T13:55:36","modified_gmt":"2025-11-01T11:55:36","slug":"lia-na-pas-de-conscience-mais-ceux-qui-la-concoivent-si","status":"publish","type":"post","link":"https:\/\/taniagombert.com\/index.php\/2025\/05\/13\/lia-na-pas-de-conscience-mais-ceux-qui-la-concoivent-si\/","title":{"rendered":"L\u2019IA n\u2019a pas de conscience. Mais ceux qui la con\u00e7oivent, si."},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

L\u2019IA n\u2019a pas de conscience. Mais ceux qui la con\u00e7oivent, si.<\/h1>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

L\u2019intelligence artificielle fascine, intrigue, inqui\u00e8te. Elle s\u2019invite dans nos conversations, nos entreprises, nos vies. Elle pr\u00e9dit, calcule, ex\u00e9cute, apprend, optimise. Elle observe sans voir, \u00e9coute sans entendre, et agit sans ressentir.
Car malgr\u00e9 sa puissance, malgr\u00e9 ses capacit\u00e9s d\u2019analyse vertigineuses, l\u2019IA n\u2019a pas de conscience.<\/strong><\/p>

Et c\u2019est justement l\u00e0 que tout commence.
Ce sont les humains. Des chercheurs, ing\u00e9nieurs, designers, d\u00e9cideurs, communicants portent cette conscience. Celle de comprendre ce qu\u2019ils cr\u00e9ent, d\u2019en anticiper les effets, d\u2019en assumer les cons\u00e9quences.
Chaque algorithme n\u2019est pas neutre : il traduit une intention, refl\u00e8te une vision du monde, et parfois m\u00eame, une part d\u2019aveuglement.
Derri\u00e8re chaque ligne de code, il y a un choix humain<\/strong>, un compromis, une vigilance, une valeur.
Et dans un monde o\u00f9 la technologie fa\u00e7onne nos perceptions, nos d\u00e9cisions, nos destins, cette conscience humaine devient notre ultime garde-fou.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Pourquoi parler d\u2019\u00e9thique by design ?<\/span><\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

L\u2019\u00e9thique by design<\/em>, ou \u00e9thique d\u00e8s la conception<\/em>, c\u2019est l\u2019id\u00e9e que la r\u00e9flexion morale ne vient pas apr\u00e8s, mais d\u00e8s le d\u00e9but. D\u00e8s le moment o\u00f9 l\u2019on imagine le produit. D\u00e8s la premi\u00e8re ligne de code.
Pas un suppl\u00e9ment. Pas une couche de vernis. Une intention fondatrice.<\/p>

Concr\u00e8tement, il s\u2019agit d\u2019int\u00e9grer des exigences \u00e9thiques, juridiques et soci\u00e9tales \u00e0 chaque \u00e9tape de vie d\u2019un syst\u00e8me d\u2019intelligence artificielle : conception, d\u00e9veloppement, d\u00e9ploiement, supervision. Rien n\u2019est neutre. Pas m\u00eame un algorithme.<\/p>

L\u2019initiative AI4People<\/a> a pos\u00e9 des bases claires : \u00e9valuer la lic\u00e9it\u00e9, identifier les principes \u00e9thiques, v\u00e9rifier leur application dans toutes les phases du cycle de vie. Pas une fois. En continu. L\u2019\u00e9thique devient un fil conducteur, pas un audit de fin de parcours.<\/p>

Mettre en \u0153uvre une approche by design<\/em>, c\u2019est imaginer des m\u00e9canismes de transparence, des contr\u00f4les de biais, une gouvernance claire. C\u2019est d\u00e9cider qui veille, qui audite, qui documente. C\u2019est accepter de rendre des comptes.
Un mod\u00e8le responsable, c\u2019est aussi un mod\u00e8le explicable. Un mod\u00e8le tra\u00e7able. Un mod\u00e8le dont on peut interroger les d\u00e9cisions sans se heurter \u00e0 une bo\u00eete noire.<\/p>

Le NIST AI Risk Management Framework 1.0<\/a> va dans ce sens. Il fournit des rep\u00e8res tr\u00e8s concrets pour \u00e9valuer la trustworthiness<\/em> d\u2019une IA : sa validit\u00e9, son \u00e9quit\u00e9, sa s\u00e9curit\u00e9, sa transparence. Il existe m\u00eame un profil d\u00e9di\u00e9 aux IA g\u00e9n\u00e9ratives<\/a>, car ces mod\u00e8les bouleversent les rep\u00e8res \u00e9thiques habituels.<\/p>

Quand on clarifie les attentes, on r\u00e9duit l\u2019incertitude. Et quand on r\u00e9duit l\u2019incertitude, on renforce la confiance.
C\u2019est ce que d\u00e9montre le triptyque au c\u0153ur de l\u2019\u00e9thique by design : transparence, \u00e9quit\u00e9, responsabilit\u00e9.<\/strong>
Ces trois leviers ne sont pas th\u00e9oriques. Ils se traduisent dans des outils tr\u00e8s concrets : notes d\u2019impact, cartes de mod\u00e8les, audits de donn\u00e9es, indicateurs de robustesse.<\/p>

Les grandes institutions s\u2019en sont empar\u00e9es. La Recommandation de l\u2019OCDE sur l\u2019IA<\/a> fixe cinq principes : valeurs humaines, \u00e9quit\u00e9, transparence, s\u00e9curit\u00e9 et responsabilit\u00e9. La norme ISO\/IEC 23894:2023<\/a> propose une m\u00e9thodologie compl\u00e8te pour int\u00e9grer la gestion des risques IA \u00e0 l\u2019\u00e9chelle d\u2019une organisation. On quitte le terrain des intentions pour entrer dans celui des pratiques.<\/p>

En Europe, l\u2019AI Act<\/a> vient renforcer cette logique. Il impose une approche fond\u00e9e sur les risques, distingue les usages interdits, les syst\u00e8mes \u00e0 haut risque, et encadre les mod\u00e8les \u00e0 usage g\u00e9n\u00e9ral. Surtout, il oblige les entreprises \u00e0 se poser la question du \u201ccomment\u201d d\u00e8s la conception.
C\u2019est une r\u00e9volution silencieuse : l\u2019\u00e9thique devient une condition de mise sur le march\u00e9.<\/p>

Pour une \u00e9quipe produit, cela change tout. Cela veut dire qu\u2019avant m\u00eame de lancer un prototype, on documente les choix. Qu\u2019on mesure l\u2019impact. Qu\u2019on assure la tra\u00e7abilit\u00e9 des donn\u00e9es et des mod\u00e8les. Qu\u2019on contr\u00f4le la performance et l\u2019\u00e9quit\u00e9 dans la dur\u00e9e. Bref, que la responsabilit\u00e9 devient un r\u00e9flexe collectif.<\/p>

Parce qu\u2019au fond, l\u2019\u00e9thique by design, c\u2019est une culture. Une mani\u00e8re de faire de la technologie autrement.
Ce n\u2019est pas une contrainte administrative. C\u2019est un engagement. Celui d\u2019anticiper les impacts, de documenter les d\u00e9cisions, de partager la responsabilit\u00e9. Celui aussi de prouver, par des faits, que l\u2019intelligence artificielle peut respecter les droits fondamentaux et les valeurs humaines.<\/p>

Une IA qui explique ce qu\u2019elle fait. Une IA test\u00e9e contre les biais. Une IA que l\u2019on peut auditer.
C\u2019est \u00e7a, la vraie confiance.
Et c\u2019est ce que le monde attend d\u00e9sormais des acteurs de la tech.<\/p>

Selon le rapport AI4People (2024)<\/a>, l\u2019\u00e9thique by design vise \u00e0 garantir que chaque syst\u00e8me d\u2019IA respecte les droits fondamentaux, les valeurs humaines et les principes moraux.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

L\u2019IA responsable : un imp\u00e9ratif \u00e9thique et strat\u00e9gique<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Quand l\u2019IA agit sans conscience<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Une IA sans cadre \u00e9thique peut amplifier les in\u00e9galit\u00e9s. Ce n\u2019est pas une hypoth\u00e8se, c\u2019est un fait.
Des \u00e9tudes ont montr\u00e9 que certains syst\u00e8mes de recrutement automatis\u00e9s rejetaient davantage les candidatures f\u00e9minines, parce que les donn\u00e9es d\u2019entra\u00eenement refl\u00e9taient des d\u00e9cennies de d\u00e9s\u00e9quilibres dans le march\u00e9 du travail.
L\u2019exemple d\u2019Amazon<\/strong>, contraint d\u2019abandonner en 2018 un outil interne de tri de CV jug\u00e9 sexiste, reste embl\u00e9matique : le mod\u00e8le avait \u201cappris\u201d \u00e0 sous-noter les profils f\u00e9minins, tout simplement parce qu\u2019il avait \u00e9t\u00e9 entra\u00een\u00e9 sur des CV majoritairement masculins dans la tech (Reuters<\/a>).<\/p>

M\u00eame logique dans le secteur du cr\u00e9dit<\/strong>. Des analyses men\u00e9es par ProPublica<\/strong> sur le logiciel COMPAS<\/strong>, utilis\u00e9 dans le syst\u00e8me judiciaire am\u00e9ricain, ont r\u00e9v\u00e9l\u00e9 des biais raciaux significatifs : l\u2019outil \u00e9valuait plus souvent les personnes noires comme pr\u00e9sentant un risque de r\u00e9cidive \u00e9lev\u00e9, \u00e0 donn\u00e9es \u00e9quivalentes (ProPublica, 2016<\/a>).
Et le probl\u00e8me ne s\u2019arr\u00eate pas l\u00e0. Des algorithmes d\u2019octroi de cr\u00e9dit ont \u00e9galement \u00e9t\u00e9 montr\u00e9s du doigt pour reproduire des discriminations g\u00e9ographiques et ethniques, comme l\u2019a document\u00e9 le Brookings Institution<\/strong> dans son \u00e9tude sur les biais algorithmiques en finance (Brookings, 2022<\/a>).<\/p>

M\u00eame dans l\u2019\u00e9ducation et l\u2019emploi public, des IA mal calibr\u00e9es ont caus\u00e9 des injustices massives. En 2020, le syst\u00e8me de notation automatis\u00e9 mis en place par le gouvernement britannique pour remplacer les examens pendant la pand\u00e9mie a \u00e9t\u00e9 accus\u00e9 d\u2019avoir p\u00e9nalis\u00e9 les \u00e9l\u00e8ves issus d\u2019\u00e9coles d\u00e9favoris\u00e9es. Les plus pauvres ont re\u00e7u des notes plus basses que pr\u00e9vues, simplement parce que l\u2019algorithme s\u2019appuyait sur les performances historiques des \u00e9tablissements (BBC News<\/a>).<\/p>

Ces exemples montrent une chose simple : ce n\u2019est pas la machine qui discrimine<\/strong>, c\u2019est le design, la donn\u00e9e et le contexte qui l\u2019entourent.
L\u2019IA n\u2019invente rien, elle r\u00e9plique<\/em>. Elle amplifie ce qu\u2019on lui donne.
Et si les donn\u00e9es sont biais\u00e9es, si les crit\u00e8res ne sont pas interrog\u00e9s, si les garde-fous sont absents, alors l\u2019IA reproduit nos angles morts \u00e0 la vitesse du num\u00e9rique.<\/p>

C\u2019est pour cela qu\u2019un cadre \u00e9thique, une gouvernance solide et une supervision humaine sont indispensables.
Pas pour ralentir l\u2019innovation. Mais pour \u00e9viter qu\u2019elle n\u2019acc\u00e9l\u00e8re nos in\u00e9galit\u00e9s.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

Quand l\u2019IA agit avec conscience humaine<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Quand l\u2019IA agit avec conscience humaine, les r\u00e9sultats changent radicalement.
Les technologies ne deviennent pas miraculeuses, mais elles deviennent justes. Explicables. Fiables.
Et surtout : dignes de confiance.<\/p>

De grandes entreprises ont d\u00e9j\u00e0 int\u00e9gr\u00e9 cette responsabilit\u00e9 dans leur strat\u00e9gie.
Chez Microsoft<\/strong>, par exemple, un cadre complet intitul\u00e9 Responsible AI Standard<\/a><\/em> a \u00e9t\u00e9 mis en place pour garantir que chaque produit reposant sur l\u2019intelligence artificielle respecte six principes fondamentaux : \u00e9quit\u00e9, fiabilit\u00e9, confidentialit\u00e9, transparence, inclusion et responsabilit\u00e9.
Les \u00e9quipes sont form\u00e9es, les projets sont audit\u00e9s, et certains produits ont m\u00eame \u00e9t\u00e9 retir\u00e9s du march\u00e9 lorsqu\u2019ils ne respectaient plus ces standards.
Un choix courageux, mais n\u00e9cessaire.<\/p>

IBM<\/strong> suit une d\u00e9marche similaire avec son cadre AI Ethics Board<\/a><\/em>, compos\u00e9 de chercheurs, designers et juristes.
Leur mission : veiller \u00e0 ce que chaque projet IA soit align\u00e9 sur des valeurs humaines et explicables.
Leur principe cl\u00e9, \u201cExplainability by design<\/em>\u201d, oblige \u00e0 documenter la logique de chaque mod\u00e8le, \u00e0 rendre les d\u00e9cisions tra\u00e7ables, et \u00e0 permettre aux utilisateurs de comprendre ce qui influence les r\u00e9sultats.
Ce n\u2019est plus de la conformit\u00e9, c\u2019est de la p\u00e9dagogie technologique.<\/p>

D\u2019autres acteurs comme Cisco<\/strong> ont publi\u00e9 leur Responsible AI Framework<\/a><\/em>, qui s\u2019appuie sur des valeurs d\u2019\u00e9quit\u00e9, de respect des droits humains et de transparence.
Ce document ne se contente pas d\u2019\u00e9noncer des principes : il d\u00e9crit des proc\u00e9dures concr\u00e8tes de revue, d\u2019audit et de signalement en cas de d\u00e9rive.
Cisco a \u00e9galement int\u00e9gr\u00e9 une fonction \u201cEthics Champion\u201d dans ses \u00e9quipes IA, un r\u00f4le interne d\u00e9di\u00e9 \u00e0 la vigilance \u00e9thique au quotidien.<\/p>

Au niveau institutionnel, la Commission europ\u00e9enne<\/strong> a lanc\u00e9 les Ethics Guidelines for Trustworthy AI<\/a><\/em>, un texte fondateur r\u00e9dig\u00e9 par le High-Level Expert Group on AI<\/em>.
Ces lignes directrices d\u00e9finissent trois piliers : la conformit\u00e9 l\u00e9gale, le respect des principes \u00e9thiques et la robustesse technique.
Elles inspirent d\u00e9sormais des politiques publiques et des normes industrielles \u00e0 travers le monde.<\/p>

Et les effets sont tangibles.
Dans la sant\u00e9, par exemple, le projet Explainable COVID-19 AI<\/a><\/em> a permis de rendre les diagnostics automatiques plus interpr\u00e9tables pour les m\u00e9decins, am\u00e9liorant \u00e0 la fois la pr\u00e9cision clinique et la confiance humaine dans la machine.
Dans le recrutement, des plateformes comme HireVue<\/strong> ont int\u00e9gr\u00e9 des bias audits<\/em> r\u00e9guliers et des comit\u00e9s \u00e9thiques ind\u00e9pendants apr\u00e8s les controverses de 2019, montrant qu\u2019il est possible de corriger une trajectoire sans renoncer \u00e0 l\u2019innovation (HireVue AI Ethics Statement<\/a>).<\/p>

Quand les entreprises choisissent d\u2019agir avec conscience, elles prouvent que l\u2019IA peut \u00eatre une force de progr\u00e8s plut\u00f4t qu\u2019un amplificateur d\u2019injustices.
Elles rappellent une v\u00e9rit\u00e9 simple : la technologie n\u2019est jamais neutre<\/strong>, mais elle peut \u00eatre guid\u00e9e.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

Les 3 piliers de l\u2019\u00e9thique by design<\/span><\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

1. Transparence & explicabilit\u00e9<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Une IA responsable doit \u00eatre compr\u00e9hensible. Les utilisateurs doivent savoir pourquoi une d\u00e9cision est prise. Pas de confiance sans compr\u00e9hension.<\/em><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

2. \u00c9quit\u00e9 & inclusion<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Les mod\u00e8les d\u2019IA doivent \u00eatre entra\u00een\u00e9s sur des donn\u00e9es diversifi\u00e9es et audit\u00e9es. Objectif : \u00e9viter la reproduction des biais humains. Exemples : Algorithmic Justice League<\/a>.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

3. Gouvernance & responsabilit\u00e9<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Les acteurs tech doivent documenter leurs choix, auditer leurs mod\u00e8les et former leurs \u00e9quipes \u00e0 l\u2019\u00e9thique. L\u2019Union europ\u00e9enne y contribue via le AI Act<\/a>, premier cadre juridique fond\u00e9 sur la notion de risque.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

Deux exemples concrets : l\u2019IA \u00e9thique et l\u2019IA aveugle<\/span><\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Cas 1 : l\u2019\u00e9thique int\u00e9gr\u00e9e<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Une entreprise d\u00e9veloppe un chatbot de sant\u00e9<\/strong>. Avant de coder, elle m\u00e8ne une \u00e9valuation d\u2019impact \u00e9thique, consulte des m\u00e9decins et des associations. R\u00e9sultat : un outil fiable et respectueux.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

Cas 2 : l\u2019\u00e9thique oubli\u00e9e<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Une start-up cr\u00e9e un syst\u00e8me de recrutement automatis\u00e9<\/strong> sans audit ni supervision. R\u00e9sultat : discriminations, perte de confiance et image ternie.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

Les acteurs tech ont un r\u00f4le moral<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Cr\u00e9er de l\u2019IA, c\u2019est fa\u00e7onner le futur. Les bonnes questions \u00e0 se poser :<\/p>