TL;DR : Les demandeurs d’emploi poursuivent un outil de recrutement d’IA appelé Eightfold pour avoir prétendument compilé des rapports secrets qui aident les employeurs à sélectionner les candidats. Pourquoi est-ce illégal ? La poursuite affirme la même raison pour laquelle les agences de notation de crédit doivent vous dire pourquoi elles ont modifié votre score. Si les tribunaux croient à cette logique, cela pourrait commencer à remodeler le monde de la boîte noire en matière d’acquisition d’IA.
Ce qui s’est passé : Comme beaucoup de personnes qui ont joué au jeu des chiffres de recherche d’emploi ces derniers temps, les demandeurs d’emploi en avaient assez des candidatures apparemment en chute libre. Ils ont intenté un recours collectif contre Eightfold, qui utilise de grandes entreprises comme Microsoft et PayPal pour contrôler les embauches potentielles. Le procès affirme qu’Eightfold a violé le Fair Credit Reporting Act et une loi californienne similaire sur la protection des consommateurs en ne permettant pas aux candidats de consulter des informations les concernant et de corriger le dossier si nécessaire.
“La technologie d’Eightfold se cache en arrière-plan des candidatures”, affirme le procès, “collectant des données personnelles, telles que des profils de réseaux sociaux, des données de localisation, l’activité Internet et des appareils, des cookies et d’autres types de suivi”.
Eightfold le conteste : l’outil “fonctionne à partir de données intentionnellement partagées par les candidats ou fournies par nos clients. Nous ne grattons pas les réseaux sociaux et autres”, nous a déclaré le porte-parole Kurt Foeller. “Eightfold estime que ces allégations sont sans fondement.”
Ce qui n’est pas contesté, c’est qu’Eightfold utilise l’IA pour produire un score compris entre zéro et cinq, classant l’aptitude d’un candidat à un poste donné.
Pourquoi c’est important : les entreprises utilisent désormais une multitude d’outils d’IA en coulisses pour rechercher et évaluer les candidats. Les candidats sont également de la partie, utilisant leurs propres outils d’IA pour trouver un emploi et créer des candidatures. C’est de l’IA jusqu’au bout.
Certains États (et la ville de New York) ont des lois réglementant ces outils, largement axées sur leur potentiel de partialité et de discrimination. Mais la prise de décision par l’IA se fait encore largement à l’insu des demandeurs d’emploi.
Selon Pauline Kim, professeur de droit du travail à la faculté de droit de l’Université de Washington, ce n’est pas la première fois que le Fair Credit Reporting Act est utilisé pour contester les systèmes de recrutement basés sur le Big Data, mais il est nouveau que l’une de ces affaires se concentre sur l’IA.
Ce que cela signifie pour vous : si le procès aboutit (ce qui pourrait prendre des années), les outils de recrutement d’IA pourraient être plus directs sur les données qu’ils collectent et travailler plus dur pour garantir leur exactitude, a déclaré Kim. Mais la loi vieille de 55 ans sur laquelle se fonde le procès ne reflète peut-être pas non plus pleinement l’usage moderne.
La véritable importance, selon Kim, est que les entreprises qui s’appuient sur ces outils doivent être plus transparentes quant à leur utilisation. “Cependant, comme la loi a été rédigée à une époque antérieure, même si elle est appliquée par les tribunaux, elle n’offrira qu’une transparence limitée, probablement pas suffisante pour garantir l’équité de ces systèmes.” -EMBALLER
Ce rapport a été initialement publié par Tech Brew.
