Chris McGrath/Getty Images
Cathy O’Neil, consultante en sciences des données, aide les entreprises à vérifier leurs algorithmes. Et lorsqu’il s’agit de savoir comment les algorithmes et l’intelligence artificielle (IA) peuvent permettre de biaiser le processus d’embauche, elle estime que le plus gros problème ne se pose même pas aux employeurs eux-mêmes. Une nouvelle loi de l’Illinois qui vise à aider les demandeurs d’emploi à comprendre comment les outils d’IA sont utilisés pour les évaluer lors d’entretiens vidéo a récemment relancé le débat sur le rôle de cet outil dans le recrutement. Mais la consultante, qui est aussi la fondatrice et présidente de O’Neil Risk Consulting & Algorithmic Auditing, estime que la loi s’attaquer trop tard aux préjugés dans ce type de processus.
“Le problème se situe en fait avant que la candidature n’arrive. Il se situe dans le ‘pipeline’ pour faire correspondre les demandeurs d’emploi aux offres”, a-t-elle déclaré. Ce “pipeline” commence avec des sites comme LinkedIn, Monster.com, Facebook et ZipRecruiter, où les algorithmes peuvent jouer un rôle important pour déterminer quels candidats voient quelles offres d’emploi, en filtrant ceux qui ne sont pas jugés assez qualifiés. “[Les algorithmes] sont destinés à discriminer, ils essaient de discriminer entre quelqu’un qui va être bon dans ce travail et quelqu’un qui ne sera pas bon pour cette mission”, a déclaré Cathy O’Neil, ajoutant que “la question est de savoir si c’est une discrimination légale ou illégale.”
La consultante en sciences des données a beaucoup écrit sur le rôle que jouent les algorithmes dans l’accroissement des inégalités, à la fois dans son livre, “Weapons of Math Destruction” (2017 — non traduit), et sur son blog mathbabe.org. Lors d’un entretien avec Business Insider US, elle a parlé de la façon dont les préjugés se manifestent dans le processus…
>> LIRE LA SUITE SUR BUSINESS INSIDER
Lire aussi :
Les années 2020 pourraient voir l’IA remplacer des millions d’emplois dans la finance
Aussi sur Business Insider
- Les années 2020 pourraient voir l’IA remplacer des millions d’emplois dans la finance
- Les 8 erreurs fréquentes sur LinkedIn qui découragent les recruteurs de s’intéresser à votre profil
- L’expert des réseaux sociaux chez Microsoft France vous dit comment décrocher votre prochain travail grâce à LinkedIn
- Viadeo arrive à la dernière étape avant la cession définitive de ses activités
- Les 15 métiers les plus recherchés en France selon LinkedIn
Comment here