La plainte déposée mardi constitue la première aux États-Unis à accuser une entreprise de recrutement par IA d'avoir violé la loi Fair Credit Reporting Act (FCRA), selon les cabinets d'avocats à l'origine du dossier. Elle illustre la volonté des défenseurs des consommateurs d'appliquer la législation existante aux systèmes d'IA capables de tirer des inférences sur les individus à partir d'immenses quantités de données.
Basée à Santa Clara, en Californie, Eightfold propose des outils qui promettent d'accélérer le processus de recrutement en évaluant les candidats et en prédisant leur aptitude à occuper un poste, grâce à l'analyse massive de données issues de CV en ligne et d'offres d'emploi.
Mais, selon les candidates Erin Kistler et Sruti Bhaumik dans leur recours collectif proposé, les postulants aux entreprises utilisant ces outils ne sont pas informés ni mis en mesure de contester d'éventuelles erreurs.
Pour cette raison, elles affirment qu'Eightfold a enfreint la FCRA ainsi qu'une loi californienne permettant aux consommateurs de consulter et de contester les rapports de crédit utilisés dans le cadre de prêts ou de recrutements.
« Il n'existe aucune exemption pour l'IA dans ces lois, qui sont depuis des décennies un outil essentiel pour protéger les candidats contre les abus de tiers — comme les sociétés de vérification de dossiers — qui tirent profit de la collecte et de l'évaluation d'informations sur les postulants », déclarent-elles dans la plainte.
Le porte-parole d'Eightfold, Kurt Foeller, a indiqué que la plateforme fonctionne à partir de données partagées par les candidats ou fournies par les clients.
« Nous ne récupérons pas de données sur les réseaux sociaux ou autres. Nous sommes profondément engagés en faveur d'une IA responsable, de la transparence et du respect des lois applicables en matière de protection des données et d'emploi », a déclaré Foeller.
Eightfold est soutenue par des fonds de capital-risque tels que SoftBank Vision Fund et General Catalyst.
Kistler et Bhaumik ont assigné la société devant un tribunal de l'État de Californie au nom de tous les candidats américains ayant postulé et été évalués via les outils d'Eightfold. Le cabinet spécialisé en droit du travail Outten & Golden ainsi que l'organisation de défense Towards Justice représentent ce recours collectif.
Selon la plainte, Eightfold crée des profils de candidats comprenant des descriptions de personnalité telles que « travailleur en équipe » ou « introverti », évalue la « qualité de la formation » et prédit les futurs postes et employeurs des postulants.
Kistler a postulé à plusieurs postes dans des entreprises clientes d'Eightfold, dont PayPal, et Bhaumik a candidaté notamment chez Microsoft, selon la plainte. Toutes deux sont diplômées en sciences ou en technologie et disposent de plus de dix ans d'expérience. Aucune n'a été recrutée et elles estiment que les outils d'Eightfold ont joué un rôle dans cette issue.
Microsoft et PayPal ne sont pas défendeurs dans cette affaire. Un porte-parole de Microsoft a refusé de commenter. Un porte-parole de PayPal n'a pas répondu immédiatement à une demande de commentaire.
Selon le site d'Eightfold, un tiers de ses clients sont des entreprises du Fortune 500, parmi lesquelles Salesforce et Bayer. Le département du travail de l'État de New York ainsi que celui du Colorado proposent également des plateformes alimentées par Eightfold aux chercheurs d'emploi.
