Une annonce publiée, et quelques jours plus tard, plusieurs centaines de candidatures dans la boîte de réception. Pour un service RH ou un dirigeant de PME qui recrute seul, la tentation est forte de confier le premier tri à une intelligence artificielle. C'est possible, et souvent utile. Mais le tri automatisé pose une question sérieuse : comment s'assurer que l'outil ne reproduit pas, voire n'amplifie pas, des biais discriminatoires ?

Pourquoi le risque est réel

Un modèle d'IA apprend à partir de données produites par des humains. Il hérite donc des stéréotypes présents dans ces données. Plusieurs expériences publiées ces dernières années ont montré des outils de tri défavorisant certains profils sans que personne ne l'ait demandé explicitement.

Le problème vient rarement d'une intention. Il apparaît par des chemins détournés :

  • un critère qui semble neutre mais corrèle avec l'âge, comme le nombre d'années d'expérience exigé sans justification ;
  • la valorisation de certains établissements ou parcours « classiques » ;
  • des interruptions de carrière interprétées négativement ;
  • un prénom, une adresse ou une photo qui influencent l'évaluation.

En France, le Code du travail interdit la discrimination à l'embauche sur une longue liste de critères. Le fait qu'une décision ait été suggérée par un outil ne change rien à la responsabilité de l'employeur.

Définir des critères avant de toucher à l'outil

La première protection ne se trouve pas dans l'IA, mais dans la préparation du recrutement. Avant tout tri, formalisez par écrit :

  • les compétences réellement indispensables pour le poste ;
  • les compétences appréciées mais non bloquantes ;
  • les éléments qui ne doivent jamais entrer en ligne de compte.

Cette grille sert ensuite de consigne à l'IA. Plutôt que de lui demander « quels sont les meilleurs candidats ? », demandez-lui d'évaluer chaque candidature au regard de critères précis, en citant les éléments du CV qui justifient son évaluation. Vous obtenez ainsi une analyse vérifiable, et non un classement opaque.

Anonymiser ce qui doit l'être

Une précaution simple consiste à retirer des CV, avant analyse, les informations sans lien avec le poste : nom, photo, date de naissance, adresse, situation familiale. Cette étape peut d'ailleurs être automatisée elle-même, à condition de vérifier qu'elle fonctionne correctement sur différents formats de documents.

L'anonymisation ne résout pas tout. Certains indices restent présents dans le parcours ou les activités extra-professionnelles. Mais elle limite nettement les influences les plus directes. Pensez aussi à relire votre annonce elle-même : une formulation genrée ou une exigence superflue filtre parfois les candidats avant même qu'ils postulent.

Garder un humain dans la boucle

Le RGPD encadre les décisions fondées exclusivement sur un traitement automatisé lorsqu'elles produisent des effets importants pour une personne. Un refus de candidature en fait partie. En pratique, l'IA doit rester un outil d'aide : elle prépare, résume, signale, mais la décision appartient à une personne.

Une organisation qui fonctionne

  • l'IA produit une fiche de synthèse par candidature, structurée selon la grille ;
  • un recruteur relit chaque fiche, en particulier celles classées en bas de liste ;
  • les écarts entre l'avis de l'outil et celui du recruteur sont notés et analysés ;
  • les candidats sont informés de l'usage d'outils automatisés dans le processus.

Relire les candidatures écartées est essentiel. C'est là que les biais se cachent, et c'est souvent là que l'on découvre des profils atypiques mais pertinents.

Contrôler régulièrement les résultats

Un outil qui fonctionne bien aujourd'hui peut dériver demain, après une mise à jour du modèle ou un changement de consigne. Prévoyez des contrôles périodiques : comparez la répartition des profils retenus à celle des candidatures reçues, testez l'outil avec des CV identiques où seul un élément change, et documentez vos réglages.

Ces réflexes ne s'improvisent pas. Une formation IA dédiée aux équipes RH permet de travailler sur des cas concrets : rédiger des consignes d'analyse neutres, construire une grille exploitable, repérer les formulations à risque dans une annonce ou une synthèse générée.

Pour les entreprises qui reçoivent beaucoup de candidatures et souhaitent un outil intégré à leur processus (analyse structurée, anonymisation, traçabilité des décisions), Just Use AI conçoit également des agents sur-mesure, construits avec ces garde-fous dès le départ.

Conclusion

Trier des candidatures avec l'IA permet de gagner un temps considérable et peut même rendre le processus plus équitable, à condition d'être rigoureux. Des critères définis à l'avance, des données anonymisées, une décision humaine et des contrôles réguliers : ces quatre principes suffisent à transformer un outil potentiellement risqué en allié du recruteur. L'objectif n'est pas d'aller plus vite à tout prix, mais de consacrer davantage d'attention aux candidats qui le méritent, sans en écarter aucun pour de mauvaises raisons.