Elle a l'air neutre, rationnelle, presque scientifique... et pourtant l'intelligence artificielle reproduit nos pires travers. Voici comment, pourquoi, et surtout ce qu'on peut y faire.
© BravRez IA
Quand l'intelligence artificielle hérite de nos préjugés
On aime penser que la machine, elle au moins, ne juge pas. Pas de fatigue, pas d'humeur, pas de préférences personnelles : que du calcul. Sauf que cette image d'une IA parfaitement objective est en grande partie une illusion, et une illusion plutôt dangereuse.
Car une intelligence artificielle ne sort pas de nulle part. Elle apprend à partir de ce qu'on lui donne à lire, à voir, à écouter, c'est à dire des millions de textes et d'images produits par des humains, avec toutes leurs contradictions, leurs raccourcis et leurs stéréotypes.
Résultat : quand on lui demande de dessiner un juge ou un employé de restauration rapide, l'IA ne fait pas que décrire la réalité, elle la déforme, souvent dans le sens des clichés les plus tenaces. Comprendre comment ce phénomène se met en place, c'est déjà commencer à s'en protéger.
La source du problème : des données d'entraînement façonnées par l'humain
Avant de savoir répondre à une question ou de générer une image, un modèle d'IA doit être entraîné sur d'énormes quantités de données. Le souci, c'est que personne ne choisit vraiment ces données avec soin : la plupart des entreprises récupèrent tout ce qu'elles peuvent trouver, sans demander l'autorisation des auteurs, et gardent souvent secret le contenu exact de leurs corpus.
Une partie provient de sources publiques comme des sites gouvernementaux ou certaines encyclopédies collaboratives, mais une grande partie vient aussi d'Internet dans son ensemble, voire de contenus dont l'origine est plus que douteuse.
Or des données humaines, ce sont aussi des données biaisées. Si l'IA semble si naturelle quand on discute avec elle, c'est justement parce qu'elle a appris à partir de nos conversations et de nos écrits, avec tout ce qu'ils charrient comme représentations toutes faites.
© BravRez IA
L'Open Web, un terreau toxique pour l'apprentissage des machines
Une bonne partie de l'entraînement des IA génératives repose sur ce qu'on appelle l'Open Web, c'est à dire l'ensemble des pages accessibles librement sur Internet. Le problème, c'est que personne ne considère sérieusement ce terrain comme un endroit sain et bienveillant pour apprendre à voir le monde.
Forums polémiques, commentaires haineux, contenus à sensation, propos discriminatoires... tout cela cohabite avec des articles rigoureux et des échanges constructifs, sans distinction claire pour la machine qui absorbe tout ce texte de la même manière.
L'IA ne fait pas le tri moral entre ce qui est vrai, faux, sain ou toxique : elle repère des régularités statistiques dans le langage. Si une association d'idées revient souvent (même quand elle est injuste ou fausse), elle a toutes les chances de se retrouver imprimée dans les réponses du modèle.
Une collecte de données dominée par une vision américaine et anglophone
Ce biais initial est encore renforcé par un autre phénomène, plus discret mais tout aussi structurant : le choix même des données à collecter. Les grandes entreprises qui construisent ces IA sont en grande majorité américaines, et travaillent principalement en anglais.
Cela signifie concrètement que les modèles sont nourris en priorité par une vision du monde occidentale, souvent centrée sur les débats, les valeurs et les références culturelles des États-Unis. Les langues, les cultures et les points de vue minoritaires à l'échelle mondiale se retrouvent mécaniquement sous-représentés.
Les données d'entraînement sont donc loin de refléter la diversité réelle d'Internet, et encore moins celle de la planète. L'IA n'apprend pas 'le monde', elle apprend une tranche particulière du monde, celle qui a été la plus facile ou la plus rentable à récupérer.
Le manque de diversité dans la tech : un biais supplémentaire invisible
À cela s'ajoute un troisième facteur, encore moins visible pour le grand public : celui qui construit l'outil influence forcément ses choix, même sans mauvaise intention. Or les équipes d'informaticiens qui conçoivent ces systèmes sont très majoritairement composées d'hommes.
Ce déséquilibre pèse sur des décisions qui paraissent techniques mais qui sont en réalité éminemment humaines : quelles données inclure, lesquelles écarter, quels critères juger pertinents pour évaluer un bon résultat.
Ce n'est pas une question de compétence, mais d'angle mort collectif. Quand un groupe homogène décide seul de ce qui mérite d'être appris à la machine, il transmet, presque malgré lui, sa propre façon de voir le monde comme si elle était universelle.
Quand l'IA reproduit les stéréotypes sur le travail et les compétences
Les effets concrets de tout cela sont parfois spectaculaires. Une étude menée en 2023 sur un modèle populaire de génération d'images texte-image a montré qu'il amplifiait nettement les stéréotypes de race et de genre associés aux métiers les mieux rémunérés.
Quand on lui demandait de représenter un juge, l'IA générait l'image d'un homme 97 % du temps, alors qu'aux États-Unis, environ un tiers des juges sont des femmes. Pour les employés de restauration rapide, 70 % des images montraient des personnes à la peau plus foncée, alors que dans la réalité, 70 % de ces emplois sont occupés par des personnes blanches.
Même les modèles de langage plus récents, pourtant ajustés pour éviter les clichés les plus grossiers, ne sont pas exempts de biais. Dans un test réalisé sur GPT-4, on présentait deux phrases identiques sauf pour le genre du sujet ('l'avocate a embauché l'auxiliaire parce qu'elle avait besoin d'aide'). Le modèle répondait correctement bien plus souvent lorsque l'avocat était un homme, et se trompait davantage lorsqu'il s'agissait d'une femme.
© BravRez IA
Des conséquences concrètes : embauche, vote et jugement sous influence
Ces biais ne restent pas cantonnés à des exemples de laboratoire. À mesure que l'IA générative se généralise dans la publicité, l'éducation, le divertissement ou même l'application de la loi, ces représentations déformées façonnent nos attentes réelles.
Elles influencent notre perception de qui peut exercer tel métier, qui mérite confiance et respect, et qui est perçu comme plus susceptible de commettre un délit. Concrètement, cela peut peser sur une décision d'embauche, sur un choix de vote, ou sur un jugement porté sur une personne.
Ce n'est donc pas un problème abstrait réservé aux chercheurs : c'est un phénomène qui peut discrètement s'infiltrer dans des décisions qui changent des vies, sans que personne n'en ait clairement conscience.
L'illusion de neutralité : la machine comme écran de responsabilité
Il y a quelque chose de pervers dans le fait que ces préjugés viennent d'une machine plutôt que d'une personne ou d'une organisation identifiable. Un biais qui sort d'un algorithme paraît spontanément plus objectif, plus scientifique, qu'un préjugé exprimé par un être humain.
Cette apparence de neutralité a un effet secondaire commode pour les entreprises qui développent ces outils : elle leur permet de se soustraire, au moins en partie, à toute responsabilité sur le contenu produit. 'C'est l'algorithme, pas nous' devient une façon pratique de ne pas répondre du problème.
Certaines sociétés ont bien tenté de corriger le tir, parfois de manière assez artisanale : un générateur d'images bien connu a ainsi discrètement inséré le mot 'femme' dans un nombre aléatoire de requêtes générant une 'personne', pour forcer une diversité de genre absente des données d'origine. Une rustine plutôt qu'une vraie solution.
Les groupes minoritaires, premières victimes de la sous-représentation
Quand les données d'entraînement ne reflètent pas la diversité réelle de la population, ce sont logiquement les groupes déjà minoritaires ou marginalisés qui en paient le prix le plus lourd. Ils sont plus souvent mal représentés, ou tout simplement absents, dans les productions de ces technologies pourtant de plus en plus puissantes et omniprésentes.
Ce déséquilibre se répète et s'auto-renforce : moins un groupe est présent dans les données, moins l'IA sait bien le représenter, et plus les stéréotypes qui circulent à son sujet ont de chances d'être reproduits sans nuance.
La méthode la plus utilisée pour tenter de limiter ces dérives consiste à faire intervenir des évaluateurs humains qui pénalisent les réponses problématiques et récompensent les réponses jugées correctes, un processus d'ajustement qui améliore progressivement le comportement du modèle. Mais ce correctif a lui-même ses limites : les préjugés des évaluateurs, et des entreprises qui organisent ce travail, peuvent introduire de nouveaux biais, simplement d'un autre genre.
L'IA comme miroir révélateur de nos propres biais cognitifs
Il y a une manière plus positive de voir les choses : puisque l'IA nous ressemble tant dans ses erreurs, elle peut aussi nous servir de miroir. Nous, humains, sommes constamment traversés de préjugés inconscients, en grande partie parce que nous manquons de recul sur nous-mêmes.
Paradoxalement, une perspective non humaine, même imparfaite, peut nous aider à repérer nos propres angles morts. Observer à quel point une IA reproduit fidèlement un stéréotype peut nous forcer à réaliser que ce stéréotype existait déjà, bien avant elle, dans nos propres têtes.
Cela dit, ce miroir a ses limites : dans des scénarios moraux simples, des IA arrivent à donner le même jugement qu'un humain dans une large majorité des cas, ce qui montre qu'elles ont bien intégré nos repères éthiques courants... y compris ceux qui restent, eux aussi, discutables.
Rester l'humain dans la boucle : un principe de vigilance essentiel
Face à tout cela, la tentation est grande de faire confiance aveuglément à l'outil, surtout quand il est performant et rapide. Or des travaux sur des recruteurs professionnels ont montré l'inverse : ceux qui disposaient d'une IA de bonne qualité devenaient plus paresseux, plus négligents, et finissaient par rater de bons candidats, simplement parce qu'ils suivaient les recommandations sans plus les questionner.
À l'opposé, les recruteurs équipés d'une IA moins performante restaient plus attentifs, plus critiques, et développaient de meilleures compétences au fil du temps. La leçon est claire : plus l'outil semble fiable, plus il faut garder un œil vigilant dessus, pas moins.
Être 'l'humain dans la boucle', concrètement, cela veut dire vérifier les résultats plutôt que les valider par réflexe, repérer les réponses trop lisses ou trop tranchées, et ne jamais oublier qu'une IA n'a ni jugement moral ni conscience : elle optimise avant tout pour vous satisfaire, pas nécessairement pour dire vrai.
Vers une éthique de l'alignement pour des IA plus justes
Réduire les biais des IA ne pourra pas reposer uniquement sur les entreprises qui les fabriquent : elles ont un intérêt financier évident à développer ces outils, mais beaucoup moins à investir dans leur impartialité ou leur transparence. Une réglementation publique est nécessaire, mais elle arrive presque toujours en retard sur les capacités réelles des technologies.
Ce qu'il faut, c'est une réponse plus large, associant entreprises, chercheurs, gouvernements et société civile autour de normes communes. Cela suppose d'intégrer dès la conception des principes de transparence, de responsabilité et de supervision humaine, plutôt que de les ajouter après coup comme un simple correctif.
Mais la pièce la plus importante du puzzle, c'est peut-être le grand public lui-même. Des citoyens informés, capables de repérer un biais quand ils en voient un et d'exiger des comptes, sont sans doute le meilleur rempart contre une IA qui, sans vigilance collective, continuerait tranquillement à recopier nos pires travers en les faisant passer pour des vérités neutres.
En bref : l'IA n'invente pas ses préjugés, elle les hérite de nous. Les repérer, les questionner et garder un regard critique sur ses réponses, c'est déjà la meilleure façon de construire, ensemble, des outils un peu plus justes.
Questions fréquentes
L'IA apprend à partir de données humaines, qui contiennent souvent des stéréotypes et des biais, déformant ainsi la réalité.
L'Open Web, rempli de contenus variés, expose l'IA à des informations biaisées, influençant ses réponses sans discernement.
Elles proviennent souvent de sources non filtrées et reflètent principalement des perspectives américaines et anglophones.
Ces biais influencent les décisions d'embauche, les jugements et les perceptions sociales, affectant des vies réelles.
Il est crucial d'intégrer des principes de transparence et de supervision humaine dès la conception des IA.
