Recrutement : comment adopter des agents IA conformes au RGPD ?

Par Lionel Capel, Manager

Un agent IA se définit comme un système autonome capable de planifier et de décider quelles actions entreprendre en fonction d’objectifs précis, à l’aide de capteurs physiques ou virtuels. Grâce à de telles capacités, les agents IA peuvent notamment faciliter certaines missions de recrutement : identifier, classer et proposer des profils pertinents parmi des candidatures reçues, aussi bien au sein d’une base de CV de collaborateurs internes que sur des sites externes comme LinkedIn.

Vers des décisions sans biais ni discrimination 

En matière de recrutement, les algorithmes peuvent reproduire – voire amplifier – des biais humains. Un agent IA entraîné sur des données historiques peut alors hériter de stéréotypes du passé. Par exemple, une plateforme de vente en ligne a récemment dû abandonner une IA de recrutement discriminant les candidatures féminines, ayant été entraînée principalement sur des CV d’hommes. Un agent IA mal conçu se basant sur de tels biais pourrait alors filtrer des candidats selon des critères protégés (âge, sexe, origine, etc.) ou encore supposer son genre ou son ethnicité d’après son nom, ce qui serait contraire au principe de traitement équitable.

Pour garantir des décisions exemptes de biais illégitimes, le RGPD applique le principe de traitement équitable des données et confère les mêmes droits à tous les individus. Par exemple, tout candidat dispose du droit de ne pas faire l’objet d’une décision entièrement automatisée sans intervention humaine appropriée. Ainsi, permettre à un agent IA d’envoyer automatiquement des e-mails de refus sur la seule base d’une notation trop faible reste difficilement justifiable pour une entreprise. Il conviendra plutôt d’encadrer les actions qu’il peut réaliser, afin que le regard humain reste garant de l’équité de la procédure. 

 
Transparence et explicabilité pour une IA responsable

Dans le respect du RGPD, une entreprise utilisant un agent IA pour présélectionner des CV doit veiller à rester transparente : informer clairement les candidats de cette pratique (par exemple via une mention spécifique dans l’offre d’emploi), mentionner les données analysées et la logique globale de l’algorithme, et enfin les notifier qu’aucune décision définitive ne sera prise sans intervention humaine. Cette explicabilité est non seulement une obligation légale, mais aussi un facteur de confiance, évitant que le sort professionnel des candidats ne soit décidé sans explication. Le RGPD garantit également aux candidats le droit de pouvoir contester la décision prise par un agent IA. Pour qu’un recruteur soit en mesure de leur expliquer pourquoi leur profil a été écarté, il est indispensable que les algorithmes soient auditables et que leurs prises de décision soient compréhensibles. Le recruteur doit effectivement être capable de contredire le modèle, afin de vérifier qu’aucun profil pertinent n’ait été injustement filtré.

Intégrer le RGPD dès la conception de l’agent IA

Face à ces enjeux, la meilleure approche reste celle du « Privacy by design », qui consiste à intégrer les objectifs de conformité au RGPD dès la conception de l’outil. En d’autres termes, il est important de veiller à choisir des algorithmes pouvant fournir des explications détaillées par critères. Afin de se préparer aux exigences de l’IA Act, certaines pratiques complémentaires peuvent d’ores et déjà être adoptées : 

• Sensibiliser les équipes métier au fonctionnement, aux limites et aux bonnes pratiques de l’utilisation de l’IA
• Minimiser les données collectées pour limiter le risque de biais
• Interdire l’utilisation de données sensibles (handicap d’un candidat, etc.) sans encadrement précis  
• Veiller à ce que l’entraînement de l’agent IA soit fondé sur des données représentatives et non biaisées 
• S’aider de l’outil AIPD (Analyse d’Impact Relative à la Protection des Données) pour garantir la conformité de l’agent IA 
• Permettre une intervention humaine à chaque étape décisive
• Mettre en place une gouvernance de l’IA au sein de l’organisation et réaliser des audits réguliers

En matière de recrutement, chaque projet doit suivre des principes de transparence, d’équité et de sécurité, qui ne peuvent être garantis que par l’intervention humaine. Grâce à cette approche, les entreprises évitent le risque juridique et renforcent la confiance de leurs collaborateurs, mais aussi celle des candidats. Il est possible de tirer parti de l’intelligence artificielle tout en respectant le RGPD, à condition d’y allouer des moyens suffisants dès la conception de l’outil.