Mise à jour : mars 2026 · Par Álvaro Arrescurrenaga, PDG de Voicit
En 2018, Amazon a découvert que son système de recrutement basé sur l'IA pénalisait systématiquement les femmes. En 2020, au Royaume-Uni, l'algorithme d'évaluation des enseignants a privé des milliers d'étudiants issus de quartiers défavorisés d'accès à l'université. Et en 2023, New York est devenue la première juridiction au monde à imposer des audits des algorithmes de recrutement. L'éthique de l'utilisation des technologies dans les ressources humaines n'est pas un débat théorique : c'est une nécessité urgente aux conséquences bien réelles.
Il s'agit de l'ensemble des principes qui encadrent l'utilisation responsable de l'intelligence artificielle, de l'automatisation et de l'analyse des données dans la gestion des ressources humaines. Ce cadre repose sur trois piliers : la protection des données des employés et des candidats, la transparence des décisions automatisées et l'équité algorithmique afin de prévenir toute discrimination. Au sein de l'UE, la loi sur l'IA (2024) classe les systèmes d'IA en RH comme présentant un « risque élevé », assorti d'obligations légales spécifiques.
- Pourquoi l'éthique technologique en RH est importante aujourd'hui
- Confidentialité : quelles données vous pouvez et ne pouvez pas collecter
- Transparence algorithmique : le droit de savoir
- Équité : les biais réels et comment les détecter
- 4 cas réels qui ont changé la donne
- Cadre juridique : Loi sur l’IA, RGPD et loi locale 144 de la ville de New York
- Liste de contrôle éthique pour les équipes RH
- Outils pour auditer l'éthique de votre technologie
- Conclusion
🔍 Pourquoi l'éthique technologique en RH est-elle importante aujourd'hui ?
L'adoption de l'IA dans les ressources humaines s'est considérablement accélérée. Selon Gartner76 % des responsables RH estiment que s’ils n’adoptent pas l’IA dans les 12 à 24 prochains mois, ils prendront du retard. Or, la vitesse d’adoption a dépassé les considérations éthiques.
- 83% des entreprises Ils utilisent une forme d'IA dans leurs processus de sélection (source : SHRM, 2025)
- Seulement 32% Ils disposent d'une politique éthique formelle en matière d'IA pour les RH.
- 1 candidat sur 4 Il affirme avoir été évalué par un système d'IA à son insu.
- Amendes pouvant atteindre 35 millions d'euros pour non-respect de la loi européenne sur l'IA dans les systèmes à haut risque
Le problème ne réside pas dans la technologie elle-même, mais dans son utilisation sans contrôle adéquat. L'IA dans les RH influe sur des décisions qui affectent directement la vie des gens : qui obtient un emploi, qui est promu, qui est licencié. Ces décisions exigent un cadre éthique solide.
🔒 Confidentialité : quelles données vous pouvez et ne pouvez pas collecter
Les systèmes RH modernes collectent une quantité énorme de données : des CV et évaluations de performance au suivi de la productivité, en passant par l’analyse des sentiments dans les communications internes et les données de contrôle d’accès biométriques.
Données nécessitant une attention particulière
| Type de données | Exemple | Niveau de risque | Base juridique requise (RGPD) |
| Données de base | Nom, courriel, CV | Faible | Consentement ou intérêt légitime |
| Données de performance | Évaluations, indicateurs clés de performance (KPI) | Moitié | Intérêt légitime + informations |
| Données de productivité | Surveillance de l'écran, enregistrement des frappes au clavier | Haut | Intérêt légitime + proportionnalité |
| données biométriques | Reconnaissance d'empreintes digitales et faciales | Très haut | Consentement explicite (Art. 9) |
| Données de santé | Congé maladie, analyse du stress | Très haut | Consentement explicite + besoin |
| Analyse des sentiments | L'IA analyse le ton des e-mails et des conversations. | Très haut | Interdit dans de nombreux contextes (Loi sur l'IA) |
Principe de minimisation des données
Le RGPD exige la collecte uniquement des données strictement nécessaire Pour l'objectif déclaré. Si votre outil de sélection de CV collecte la date de naissance sans en avoir besoin pour évaluer les compétences, vous enfreignez le principe de minimisation des données, même si le candidat a donné son consentement.
La règle générale : Si vous ne pouvez pas expliquer précisément pourquoi vous avez besoin d'une information, ne la collectez pas..
🔎 Transparence algorithmique : le droit de savoir
Lorsqu'un algorithme rejette un candidat ou recommande son licenciement, peut-il en expliquer les raisons ? La transparence algorithmique est l'un des piliers les plus essentiels – et les plus négligés – de l'éthique des technologies RH.
Ce que la loi exige
- RGPD (Art. 22) : droit de ne pas être soumis à des décisions automatisées ayant des effets significatifs et droit d'obtenir une explication de la logique utilisée.
- Loi sur l'IA (Art. 13) : Les systèmes d'IA à haut risque doivent être suffisamment transparents pour que les utilisateurs puissent comprendre et interpréter les résultats.
- Loi locale 144 de la ville de New York : Cela exige la publication d'un résumé de l'audit des biais de l'algorithme sur le site web de l'entreprise.
Qu'est-ce que cela signifie concrètement ?
- Informer les candidats et les employés que l'IA est utilisée dans le processus (dans l'offre d'emploi, dans le contrat ou dans la politique interne).
- Expliquez les critères qui utilise le système : « Ce candidat a obtenu un score de 85/100 car il possède 5 ans d'expérience dans le secteur et maîtrise 3 des 4 outils requis. »
- Proposez une alternative humaine : Toute personne a le droit de demander qu'un humain examine la décision automatisée.
- Documenter le système : Fiche technique contenant les données d'entraînement, les indicateurs de performance et les résultats de l'audit des biais.
Panneau d'avertissement : Si votre fournisseur d'IA RH est incapable d'expliquer le fonctionnement de son algorithme ou refuse de partager les résultats d'un audit des biais, c'est un signal d'alarme. L'opacité algorithmique est incompatible avec la conformité à la loi sur l'IA.
⚖️ Équité : les biais réels et comment les détecter
Les algorithmes ne sont pas neutres. Ils apprennent à partir de données historiques — et si ces données contiennent des biais (ce qui est presque toujours le cas), l'IA les reproduit et les amplifie souvent.
Types de biais dans l'IA pour les RH
- Biais historique des données : Si une entreprise embauche principalement des hommes pendant 10 ans, l'IA apprend que « homme » = « bon candidat ». C'est exactement ce qui s'est passé avec Amazon.
- Biais de procuration : L'algorithme n'utilise pas le « genre » comme variable, mais il utilise le « capitaine de l'équipe de rugby » (corrélation avec le genre masculin) comme prédicteur positif.
- Biais d'exclusion : Les candidats présentant des interruptions dans leur CV (maternité, maladie, prise en charge de membres de la famille) sont pénalisés par des algorithmes qui privilégient les parcours linéaires.
- Biais socio-économique : Privilégier les universités prestigieuses, la maîtrise de l'anglais ou l'expérience internationale exclut des talents tout aussi valables issus de milieux moins privilégiés.
- Biais d'accessibilité : Les entretiens vidéo utilisant l'IA pour évaluer les expressions faciales sont discriminatoires envers les personnes neurodivergentes ou handicapées.
Comment détecter les biais dans votre système
La seule méthode fiable est avec audits quantitatifsComparez les résultats de l'algorithme par groupes démographiques (sexe, âge, origine ethnique, handicap) et mesurez :
- Taux de sélection adverse (règle des 4/5) : Si le taux de sélection d'un groupe protégé est inférieur à 80 % de celui du groupe majoritaire, il y a un impact négatif.
- Taux de faux négatifs : Le système rejette-t-il davantage de candidats qualifiés d'un groupe que d'un autre ?
- Répartition des scores : Les scores moyens sont-ils significativement différents entre les groupes ?
📋 4 cas réels qui ont changé la donne
1. Amazon (2018) — Biais sexistes dans la sélection des CV
Amazon a développé une IA pour filtrer les CV, basée sur l'analyse de dix années de données de recrutement. La plupart des personnes embauchées étant des hommes, le système a appris à pénaliser les CV contenant le mot « femmes » (par exemple, « capitaine du club d'échecs féminin »). Amazon a finalement abandonné ce système.
Leçon: Les données historiques ne sont pas neutres. Sans vérification des biais, l'IA automatise les discriminations passées.
2. HireVue (2019-2021) — Évaluation faciale lors des entretiens
HireVue utilisait l'analyse des expressions faciales lors d'entretiens vidéo pour évaluer les candidats. Suite aux pressions exercées par l'Electronic Privacy Information Center (EPIC), la FTC a mené une enquête. HireVue a abandonné l'analyse faciale en 2021, reconnaissant que les avantages ne justifiaient pas les risques de biais.
Leçon: Ce n'est pas parce qu'une technologie est possible qu'elle est éthique. La reconnaissance faciale à des fins de recrutement est de plus en plus remise en question sur les plans juridique et éthique.
3. Algorithme des A-levels au Royaume-Uni (2020) — Biais socio-économique
Pendant la pandémie, le gouvernement britannique a utilisé un algorithme pour attribuer des notes aux élèves. Ce système a systématiquement pénalisé les élèves des écoles publiques et des quartiers défavorisés. Suite à d'importantes manifestations, le gouvernement a abandonné les résultats de cet algorithme.
Leçon: Les algorithmes peuvent sembler objectifs, mais ils recèlent des inégalités structurelles. La supervision humaine est indispensable.
4. Loi locale 144 de la ville de New York (2023) — Première loi sur l'audit algorithmique
La ville de New York a adopté la première loi obligeant les entreprises à auditer annuellement leurs outils de recrutement basés sur l'IA, à publier les résultats et à en informer les candidats. D'autres villes et l'Union européenne (avec la loi sur l'IA) suivent cet exemple.
Leçon: La réglementation est désormais en vigueur. Les entreprises qui ne procèdent pas à l'audit de leurs algorithmes s'exposent à des amendes et à des poursuites judiciaires.
📜 Cadre juridique : Loi sur l’IA, RGPD et loi locale 144 de la ville de New York
Trois cadres réglementaires clés que toute équipe RH devrait connaître :
| Règlement | Portée | Exigences clés pour les RH | Sanctions |
| Loi sur l'IA (UE) | Union européenne | Évaluation de la conformité, supervision humaine, transparence, journal d'activité | Jusqu'à 35 millions d'euros, soit 7 % du chiffre d'affaires mondial |
| RGPD | UE + EEE | Minimisation des données, consentement, droit à l’explication, droit à l’intervention humaine (Art. 22) | Jusqu'à 20 millions d'euros ou 4 % du chiffre d'affaires mondial |
| Loi 144 de la ville de New York | New York | Audit annuel des biais, publication des résultats, notification aux candidats | 500 $ à 1 500 $ par jour et par infraction |
Qu’est-ce que la loi sur l’IA classe comme « à haut risque » en matière de RH ?
- Systèmes d'IA pour sélection et filtrage des candidats
- Outils évaluation automatisée en entretiens
- Systèmes de surveillance des employés
- L'IA pour les décisions concernant promotion, licenciement ou affectation de tâches
Si vous utilisez l'un de ces systèmes dans l'UE, vous êtes tenu de respecter les exigences à haut risque de la loi sur l'IA, qui seront mises en œuvre progressivement entre 2025 et 2027.
✅ Liste de contrôle éthique pour les équipes RH
- Le fournisseur peut-il expliquer le fonctionnement de l'algorithme ?
- Fournit-elle des rapports d'audit des biais ?
- Les données d'entraînement sont-elles représentatives et diversifiées ?
- Existe-t-il un contrôle humain dans les décisions critiques ?
- Les candidats/employés sont-ils informés de l'utilisation de l'IA ?
- Existe-t-il une procédure pour demander une relecture humaine ?
- Les exigences du RGPD (minimisation, consentement, explication) sont-elles respectées ?
- Le système est-il enregistré comme présentant un risque élevé en vertu de la loi sur l'IA (le cas échéant) ?
Audit périodique (minimum trimestriel) :
- Le taux de sélection par groupe démographique respecte-t-il la règle des 4/5 ?
- Existe-t-il des candidats qualifiés rejetés en raison de comportements suspects ?
- Les critères de l'algorithme sont-ils toujours en adéquation avec les exigences réelles du poste ?
- Les biais identifiés ont-ils été documentés et corrigés ?
- Les employés des RH reçoivent-ils une formation actualisée en matière d'éthique de l'IA ?
🛠️ Outils pour auditer l'éthique de votre technologie
- Aequitas (gratuit) — Cadre open-source de l'Université de Chicago pour l'audit des biais dans les systèmes de décision automatisés.
- Équité en IA 360 (IBM) (gratuit) — Boîte à outils open source avec des mesures d'équité et des algorithmes d'atténuation des biais.
- Outil « Et si… » (Google) (gratuit) — Un outil visuel pour explorer le comportement des modèles d'apprentissage automatique sans écrire de code.
- IA holistique (payant) — Plateforme d'audit et de gouvernance IA, utilisée par les entreprises pour se conformer à la loi 144 de la ville de New York et à la loi sur l'IA.
💡 Conclusion
L'éthique dans l'utilisation des technologies RH n'est pas un frein à l'innovation ; c'est ce qui distingue l'innovation responsable de l'innovation irresponsable. Les cas d'Amazon, de HireVue et de l'algorithme britannique démontrent que l'IA, sans contrôle éthique, cause un préjudice réel à des personnes réelles.
La bonne nouvelle : le cadre juridique existe déjà (loi sur l’IA, RGPD), les outils d’audit sont accessibles (dont beaucoup sont gratuits) et les équipes RH qui font figure de proue en matière d’éthique technologique instaurent une plus grande confiance avec les candidats et les employés.
La clé réside dans trois principes : ne collecter que les données nécessaires (confidentialité), expliquer le fonctionnement des systèmes (transparence), et auditer régulièrement les résultats (équité). Et toujours, toujours : un contrôle humain dans les décisions qui affectent la vie des gens.
Si vous utilisez l'IA dans votre processus de sélection, complétez le tri par des outils qui documentent les entretiens de manière transparente. Salut Il génère des rapports d'entretien automatiques qui constituent un compte rendu objectif de l'évaluation — un complément essentiel à la traçabilité éthique du processus.
📚 Articles connexes
- Sélection des CV par intelligence artificielle : un guide complet 2026
- Applications d'IA pour la transcription de réunions : les 12 meilleures en 2026
- Comment générer des comptes rendus d'entretiens avec l'IA
- Expérience employé : des clés au-delà de l’intégration
