Éthique et intelligence artificielle : les enjeux qui vont tout changer

Un recruteur m'a appelé l'an dernier, un peu paniqué. Sa boîte venait de déployer un outil de tri de CV « éthique » — charte signée, comité d'éthique créé, communiqué publié. Six mois plus tard, une auditrice interne s'aperçoit que le modèle écarte systématiquement les candidatures issues de certains quartiers. Personne n'avait rien fait de mal, à la lettre. C'est exactement là que se niche le problème : l'éthique de l'intelligence artificielle ne se décrète pas dans une charte, elle se vérifie dans le code et dans les données.

Ce constat, je l'ai fait dix fois depuis que je travaille sur ces sujets. On me demande souvent « quels sont les enjeux liés à l'IA ? » comme si la réponse tenait dans une liste de risques. Elle ne tient pas. Les enjeux réels sont ailleurs : dans l'écart entre ce qu'on affirme et ce qu'on mesure.

Les vrais enjeux éthiques de l'intelligence artificielle, loin des slogans

Il y a un truc que j'ai fini par comprendre à force de voir des projets se planter : les enjeux dont on parle le plus ne sont pas ceux qui posent le plus de problèmes au quotidien.

Les robots tueurs, la singularité, la conscience machinique : ces débats occupent les plateaux télé. Sur le terrain, dans les entreprises et les administrations que je côtoie, les vrais points de friction sont beaucoup plus prosaïques. Et beaucoup plus difficiles à résoudre.

Trois enjeux qui reviennent systématiquement

• La qualité des données : un modèle apprend ce qu'on lui donne. Des données historiquement discriminantes produisent des décisions discriminantes.
• La traçabilité des décisions : quand un algorithme refuse un crédit, qui peut expliquer pourquoi ? Dans la plupart des outils que j'ai testés, personne.
• La responsabilité : si l'IA se trompe, qui porte le chapeau ? Le développeur ? L'utilisateur ? Le dirigeant qui a signé ?

Ces trois-là n'ont rien de spectaculaire. Ils sont pourtant au cœur de tout.

Le cadrage existe déjà — et c'est justement le problème

La CNIL a posé la question dès 2017 dans un rapport dont le titre résume tout : « Comment permettre à l'Homme de garder la main ? ». L'UNESCO a publié une Recommandation sur l'éthique de l'IA, qui aborde aussi les neurotechnologies et fixe des valeurs communes. L'Union européenne, elle, est passée à autre chose : un règlement contraignant, l'AI Act, avec des obligations réelles et des sanctions.

Donc le cadre n'est pas absent. C'est même le contraire. Le problème, c'est qu'un texte juridique ne dit pas comment faire dans la vraie vie. Il fixe une obligation de moyen ou de résultat — puis chacun se débrouille. Et « se débrouiller », dans une PME qui n'a ni juriste ni data scientist dédié, ça veut souvent dire : ne rien faire et espérer.

Charte volontaire ou règlement contraignant : ce qui marche vraiment

J'ai vu les deux. Les deux ont des vertus. Mais pas les mêmes.

Approche	Ce qu'elle garantit	Ce qu'elle laisse passer
Charte éthique d'entreprise	Un engagement public, un signal aux parties prenantes	Rien si personne ne vérifie. J'ai vu des chartes signées en réunion puis rangées dans un tiroir.
Recommandation UNESCO	Un socle de valeurs partagées entre États	Non contraignante : chaque pays l'applique à sa sauce, ou pas.
AI Act (UE)	Des obligations, des audits, des amendes	Coûteux à mettre en œuvre. Une petite structure peut y laisser des plumes.

Mon avis, et je l'assume : la charte seule est une illusion. Elle a une fonction politique et culturelle indéniable — elle crée un langage commun dans une organisation. Mais tant qu'aucun mécanisme indépendant ne vient vérifier ce qui est écrit, elle ne protège personne. Pas les utilisateurs, pas les dirigeants.

À l'inverse, je ne crois pas non plus qu'un règlement règle tout. Le règlement pose des garde-fous, mais il traîne toujours derrière la technologie. Ce qui compte, c'est le couplage : une norme contraignante, plus des audits réels, plus des gens formés pour les mener.

Ce que j'ai appris en menant un audit de biais

Sur un projet de scoring que j'ai accompagné, nous avons découvert que le modèle était significativement moins précis pour les dossiers situés dans certaines zones géographiques. Cause : les données d'entraînement couvraient mal ces territoires. Personne n'avait eu de mauvaise intention. Le résultat aurait pourtant pénalisé des personnes réelles.

Correction apportée : enrichissement du jeu de données, révision du critère de succès (on ne mesurait plus seulement la performance globale, mais la performance par segment), et un tableau de bord accessible aux équipes métier. Sans ça, l'écart serait resté invisible. Voilà ce que « éthique » veut dire concrètement : rendre visible ce qui est caché.

L'éthique coûte quelque chose

Un principe qui ne coûte rien n'est pas un principe, c'est un slogan. Auditer un modèle prend du temps. Collecter des données plus représentatives prend plus de temps encore. Renoncer à un critère qui booste la performance brute, mais discrimine à la marge, c'est un choix économique.

Les organisations qui prennent ces enjeux au sérieux acceptent ce coût. Les autres affichent une charte. La différence se voit dans les arbitrages budgétaires, pas dans les communiqués.

Les questions qu'on me pose le plus souvent

Quels sont les enjeux liés à l'intelligence artificielle (IA) ?

Les enjeux de l'IA se répartissent en quatre familles. Les enjeux techniques d'abord : qualité et représentativité des données, robustesse des modèles, capacité à expliquer une décision. Les enjeux sociaux ensuite : biais discriminatoires, effets sur l'emploi, concentration du pouvoir entre quelques acteurs. Les enjeux juridiques : protection des données personnelles, responsabilité en cas de dommage, conformité aux nouvelles réglementations. Et les enjeux démocratiques : opacité des systèmes, manipulation de l'information, contrôle citoyen.

Ce qu'il faut comprendre, c'est que ces familles interagissent. Un biais technique devient un problème social, qui devient un problème juridique, qui devient un problème politique. On ne peut pas traiter l'un sans les autres.

Faut-il une réglementation contraignante ?

Oui. Pas parce que les entreprises sont malveillantes, mais parce que la bonne volonté ne survit pas à la pression commerciale. Une entreprise qui gagne un marché en déployant un modèle rapide et non audité n'a aucune raison spontanée de ralentir. Le règlement crée cette raison. Le débat ne porte pas sur le principe, il porte sur le dosage et sur la capacité réelle à faire respecter les règles.

Que peut faire une entreprise dès aujourd'hui, sans attendre ?

1. Inventorier les systèmes d'IA utilisés, y compris les outils achetés sur étagère — on oublie souvent ceux-là.
2. Documenter les données d'entraînement et les critères de performance, par segment et pas seulement en moyenne.
3. Nommer une personne responsable, avec du temps dédié. Pas un comité fantôme.
4. Prévoir un mécanisme de recours : qu'une personne puisse contester une décision algorithmique et obtenir une explication.
5. Auditer une fois par an au minimum, en documentant ce qui a été trouvé — même quand ça ne fait pas plaisir.

Ce dernier point est le plus important. Les organisations qui progressent sont celles qui acceptent de regarder leurs propres résultats, y compris quand ils sont mauvais.

Ce qui reste, une fois qu'on a tout dit

La question éthique en intelligence artificielle ne se joue pas au moment où l'on écrit un principe. Elle se joue au moment où l'on doit choisir entre une performance facile et une performance défendable. Entre publier une charte et publier un audit. Entre dire qu'on est transparent et l'être vraiment.

Dans quelques années, je pense qu'on regardera les chartes éthiques non auditées comme on regarde aujourd'hui les rapports RSE vides de substance : avec un peu de gêne rétrospective. Ce qui restera, ce sont les mécanismes vérifiables, les personnes formées, et cette discipline un peu ingrate qui consiste à mesurer ce qu'on préférerait ne pas voir.

La bonne nouvelle, c'est que cette discipline n'est pas si compliquée. Elle est juste exigeante. Et elle se pratique dès maintenant, dans n'importe quelle organisation, sans attendre le prochain texte de loi.