Le tri de CV par l'IA peut être biaisé, car il s'appuie sur les recrutements passés et lit des indices indirects comme le nom, l'université ou l'année d'obtention du diplôme. Vérifiez-le avant de vous y fier : testez-le sur des postes passés, comparez les résultats entre groupes de candidats lorsque la loi vous le permet, supprimez les champs servant d'indices indirects et confiez chaque présélection et chaque refus à une personne nommée.
#À retenir
- Le biais dans le tri vient généralement des données et des critères, pas d'une négligence du modèle.
- Testez tout outil de tri sur des postes déjà pourvus avant qu'il ne touche un candidat réel.
- Repérez les indices indirects : nom, photo, nationalité, année de diplôme, interruptions de carrière et nom de l'université.
- Une personne décide de chaque présélection et de chaque refus, et la raison est consignée dans ses propres mots.
- Testez à nouveau après chaque modification du modèle, du prompt ou des critères.
#Comment le biais s'introduit-il dans le tri par l'IA ?
Le cas le plus connu reste instructif. Selon Reuters via Euronews, octobre 2018, Amazon a abandonné un outil de recrutement expérimental après qu'il eut appris à pénaliser les CV contenant le mot « women's », parce qu'il avait été entraîné sur une décennie de recrutements majoritairement masculins. Personne ne lui avait demandé de discriminer ; l'historique s'en est chargé.
Les modèles de langage actuels ne sont pas entraînés sur vos recrutements, mais ils reproduisent quand même des schémas. Demandez-leur de classer des CV selon « la meilleure adéquation » et ils appliquent leur propre idée de ce qui est bon, qui peut favoriser certaines universités, les parcours sans interruption ou la maîtrise de l'anglais pour des postes qui n'en ont pas besoin.
#Quelles règles s'appliquent à l'IA dans le recrutement ?
Les règles diffèrent selon les pays : considérez ceci comme une carte, pas comme un conseil. Lewis Silkin, avril 2024 explique que l'AI Act de l'UE classe l'IA utilisée pour le recrutement et la sélection parmi les usages à haut risque, la plupart des employeurs agissant en tant que déployeurs. Le service d'assistance AI Act de la Commission européenne, consulté en novembre 2026 cite un outil de mise en correspondance et de classement qui filtre les candidats comme exemple d'usage à haut risque.
À New York, les employeurs et les agences de placement ne peuvent pas utiliser un outil automatisé de décision en matière d'emploi sans audit de biais, selon la FAQ du service de protection des consommateurs et des travailleurs de New York, consultée en novembre 2026. Les employeurs du Golfe traitent aussi les données des candidats dans le cadre de la loi émirienne sur les données personnelles et du PDPL saoudien. Demandez à votre conseil lesquelles s'appliquent à vos recrutements.
#Comment tester un outil de tri avant de l'utiliser ?
- Rédigez d'abord les critères : les exigences indispensables du poste, convenues avec le manager qui recrute avant la lecture du moindre CV.
- Supprimez les indices indirects : retirez les noms, photos, dates de naissance, nationalités et situations familiales avant que le modèle ne voie le CV, et vérifiez les années de diplôme et les interruptions.
- Rejouez des postes passés : faites tourner l'outil sur les CV anonymisés de postes déjà pourvus et comparez sa présélection à celle du recruteur.
- Comparez entre groupes : lorsque la loi vous autorise à détenir ces données, comparez les taux de passage des différents groupes de candidats et analysez tout écart.
- Tests de substitution : modifiez un seul détail, comme un nom ou une université, sur des CV par ailleurs identiques et regardez si le résultat change.
- Cherchez le texte caché : repérez le texte blanc ou les instructions dissimulées dans les CV, un risque d'injection de prompt classé LLM01 par le top 10 OWASP pour les applications LLM.
Exemple illustratif, les chiffres sont des hypothèses : si l'outil retient 40 CV sur 100 d'un groupe et 25 sur 100 d'un autre à qualifications comparables, cet écart doit être expliqué avant la mise en production, pas après une plainte.
#Que doit toujours décider une personne ?
Chaque présélection et chaque refus. L'outil résume chaque CV au regard des critères convenus et montre ses éléments ; un recruteur lit le résumé, ouvre le CV si nécessaire et décide. Le cadre de gestion des risques de l'IA du NIST, janvier 2023 fait de la supervision humaine et de la responsabilité des éléments de la gestion du risque lié à l'IA ; en recrutement, cela signifie un décideur nommé pour chaque résultat.
#Quand une approche plus simple suffit-elle ?
Si vous recrutez quelques personnes par trimestre, renoncez au tri automatisé. Une grille d'évaluation structurée, deux lecteurs et des CV anonymisés vous apportent l'essentiel du bénéfice en équité, sans aucun modèle. Résumer des CV dans un outil conversationnel approuvé ne pose pas de problème, tant que personne ne lui demande de classer les candidats.
#Quelle est la place de Stennir ?
Le conseil en IA de Stennir inclut la gouvernance : l'audit cartographie les points où l'IA intervient dans vos recrutements, qui décide, ce qui est consigné et quels tests sont menés avant et après la mise en production. Lorsqu'un appui au tri mérite d'être construit, la mise en œuvre de l'IA le construit avec la suppression des indices indirects, des éléments à l'appui de chaque résumé et un recruteur qui approuve chaque décision.
La formation à l'IA apprend aux recruteurs ce que les résultats du tri ont tendance à mal faire et comment les remettre en question.
We are
Stennir conçoit et teste un appui au tri qui montre ses éléments, une personne décidant de chaque résultat pour chaque candidat.
We aren't
Stennir n'est pas un outil de recrutement automatisé, ni un auditeur de biais au sens d'une loi particulière, ni un cabinet d'avocats.
#Que doit faire ensuite un responsable des talents ?
Listez chaque point où l'IA intervient déjà dans une décision sur un candidat, y compris les fonctions que votre ATS a activées par défaut. Pour chacun, notez qui décide et si quelque chose a été testé. Lisez l'IA pour les opérations, l'exemple concret de tri de CV pour une agence de recrutement et ce que le conseil d'administration doit voir avant un déploiement. Puis réservez un appel de 30 minutes.
#Questions fréquentes
Le tri par l'IA peut-il être plus équitable que des personnes ?
Il peut être plus constant, car il applique les mêmes critères à chaque CV et ne se fatigue jamais. Mais constance n'est pas équité : appliquer de façon constante un critère biaisé reste biaisé. Le gain vient de critères convenus, de la suppression des indices indirects, de tests réguliers et d'une personne qui décide de chaque résultat.
Notre ATS intègre un classement par IA. Peut-on l'utiliser sans risque ?
Demandez à l'éditeur sur quoi repose le classement, s'il a été testé pour détecter des biais et quels éléments il présente pour chaque score. Menez ensuite votre propre test sur des postes passés. Si l'éditeur ne peut pas expliquer le classement, utilisez plutôt les résumés et laissez le classement à vos recruteurs.
Quelles traces devons-nous conserver ?
Les critères de chaque poste, la version de l'outil et du prompt utilisée, le résumé produit pour chaque candidat, qui a décidé et la raison dans ses propres mots. Conservez les résultats des tests réalisés avant la mise en production et après chaque modification. La durée de conservation suit vos règles de protection des données, convenues avec votre conseil.
De quoi avez-vous besoin pour commencer ?
Un responsable des talents qui porte le résultat, la liste de toutes les fonctions d'IA de vos outils de recrutement, des CV anonymisés et les décisions prises sur quelques postes pourvus, ainsi que votre interlocuteur protection des données. Stennir s'en sert pour tester ce que vous utilisez déjà avant de proposer quoi que ce soit de nouveau.
