Amazon abandonné IA outil de recrutement qui privilégie les hommes pour les emplois techniques

0
12

Amazon machine-des spécialistes de l’apprentissage découvert un gros problème: leur recrutement moteur n’aimaient pas les femmes.

L’équipe a été la construction de programmes informatiques depuis 2014 pour examiner les demandeurs d’emploi curriculum vitae, avec l’objectif de mécaniser la recherche des meilleurs talents, cinq personnes familières avec l’effort a déclaré à Reuters.

L’automatisation est la clé de e-commerce d’Amazon domination, que ce soit à l’intérieur d’entrepôts ou de la conduite de tarification. La société expérimentale de l’embauche de l’outil de l’intelligence artificielle utilisée pour donner aux candidats des scores allant de une à cinq étoiles, un peu comme les acheteurs des produits de taux sur Amazon, certains de les gens disaient.

“Tout le monde voulait ce saint graal,” l’une des personnes a dit. “Ils ont littéralement voulais que ce soit un moteur où je vais vous donner 100 cv, il va cracher le top cinq, et nous allons embaucher.”

Mais d’ici à 2015, la société a réalisé son nouveau système n’a pas de notation des candidats pour le développeur de logiciels emplois et d’autres postes techniques dans un genre neutre.

L’automatisation pourrait détruire des millions d’emplois. Nous avons à traiter avec elle maintenant | Yvette Cooper

Lire plus

C’est parce que Amazon les modèles informatiques ont été formés à l’efp, les candidats par l’observation de modèles de curriculum vitae soumis à la société sur une période de 10 ans. La plupart venaient de la part des hommes, un reflet de la domination masculine à travers l’industrie de haute technologie.

En effet, le système d’Amazon a enseigné lui-même que des candidats de sexe masculin étaient préférables. Elle pénalise les cv que contenait le mot “femmes”, comme dans “les femmes du club d’échecs de capitaine”. Et il déclassé diplômés de deux femmes collèges, selon des personnes familières avec l’affaire.

Amazon édité les programmes pour les rendre neutre à ces conditions particulières. Mais ce n’était pas une garantie que les machines ne seraient pas concevoir d’autres façons de trier les candidats qui pourraient s’avérer discriminatoires, les gens disaient.

Le Seattle de l’entreprise, finalement, dissous l’équipe d’ici le début de l’année dernière parce que les cadres ont perdu l’espoir pour le projet, selon les personnes, qui ont parlé sous condition d’anonymat. Amazon recruteurs examiné les recommandations générées par l’outil lors de la recherche de nouvelles recrues, mais jamais compté que sur ces classements, ils ont dit.

Amazon a refusé de commenter sur le recrutement de moteur ou de ses défis, mais la compagnie dit qu’elle s’est engagée à la diversité en milieu de travail et l’égalité.

La société de l’expérimentation, Reuters est le premier à signaler, propose une étude de cas dans les limites de l’apprentissage machine. Il sert également comme une leçon à la liste croissante des grandes entreprises, y compris Hilton Worldwide Holdings et Goldman Sachs qui cherchent à automatiser les parties du processus d’embauche.

Franken-algorithmes: les conséquences mortelles de la imprévisible code

Lire plus

Quelque 55% des directeurs de ressources humaines, a déclaré l’intelligence artificielle, ou AI, serait une partie régulière de leur travail dans les cinq prochaines années, selon un 2017 enquête par le talent de logiciels cabinet de CareerBuilder.

Masculin langue

Amazon a commencé à expérimenter à un moment charnière pour le monde du plus grand détaillant en ligne. L’apprentissage de la Machine a été gagne du terrain dans le monde de la technologie, grâce à un sursaut et à faible coût de calcul. Et Amazon au département des Ressources Humaines a été sur le point de s’embarquer sur une location spree; depuis le mois de juin 2015, la société mondiale de l’effectif a plus que triplé pour 575,700 les travailleurs, les dépôts réglementaires spectacle.

Alors, il a mis en place une équipe d’Amazon Edimbourg ingénierie hub qui a grandi autour d’une douzaine de personnes. Leur objectif était de développer de l’intelligence artificielle pourrait rapidement explorer le web et la place des candidats la peine de recrutement, les personnes familières avec l’affaire dit.

Le groupe a créé 500 modèles informatiques axés sur des fonctions de travail et les lieux. Ils ont enseigné à chacun de reconnaître certaines de 50 000 termes qui ont été trouvés sur le passé des candidats cv. Les algorithmes appris à accorder peu d’importance aux compétences qui sont communs à tous IL les candidats, tels que la capacité à écrire des différents codes informatiques, les gens disaient.

Au lieu de cela, la technologie favorisé les candidats qui se sont décrits à l’aide de verbes, plus fréquemment les hommes, les ingénieurs de curriculum vitae, tels que “exécuté” et “capturé”, une personne a dit.

Sexisme n’était pas le seul problème. Problèmes avec les données qui sous-tendent les modèles de jugements signifiait que les candidats non qualifiés ont été souvent recommandé pour toutes sortes d’emplois, les gens disaient. Avec la technologie de retour des résultats presque au hasard, Amazon arrêter le projet, ils ont dit.

Le problème ou le remède?

Les autres entreprises à aller de l’avant, en soulignant la volonté des employeurs d’exploiter AI pour l’embauche.

Kevin Parker, chef de la direction de HireVue, une startup, près de Salt Lake City, a déclaré l’automatisation est d’aider les entreprises à regarder au-delà même de recruter des réseaux sur lesquels ils s’appuient depuis longtemps. Son cabinet d’analyse des candidats de la parole et les expressions faciales dans des interviews vidéo pour réduire la dépendance sur les cv.

“Vous n’allez pas en arrière dans les mêmes lieux; vous n’avez pas de revenir à l’Ivy League écoles,” Parker dit. Ses clients de la société comprennent Unilever PLC et Hilton.

Goldman Sachs a créé son propre curriculum vitae outil d’analyse qui essaie de faire correspondre les candidats avec la division où ils seraient le “meilleur”, a indiqué la compagnie.

LinkedIn, le plus grand réseau professionnel, est allé plus loin. Il propose aux employeurs des algorithmes de classement des candidats en fonction de leur ajustement pour les offres d’emploi sur son site.

Joseph Stiglitz sur l’intelligence artificielle: “Nous allons vers une société divisée’

Lire plus

Encore, Jean Jersin, vice-président de LinkedIn Talent Solutions, a dit que le service n’est pas un remplacement pour le traditionnel recruteurs.

“Je n’aurais certainement pas faire confiance à aucun système d’IA aujourd’hui pour prendre une décision d’embauche sur son propre,” dit-il. “La technologie est tout simplement pas encore prêt.”

Certains militants disent qu’ils sont préoccupés par la transparence dans l’IA. L’American Civil Liberties Union est actuellement difficile une loi qui permet la poursuite pénale des chercheurs et des journalistes qui test d’embauche des sites web des algorithmes de discrimination.

“Nous sommes de plus en plus l’accent sur l’algorithmique de l’équité comme un problème”, a déclaré Rachel Goodman, un avocat avec le Programme de Justice Raciale à l’ACLU. Encore, Goodman et d’autres critiques AI reconnu qu’il pourrait être extrêmement difficile de poursuivre un employeur sur automatisé d’embauche; les candidats à un emploi, ne le saurons jamais elle l’a été.

Comme pour Amazon, la société a réussi à récupérer une partie de ce qu’il a appris de ses échecs AI de l’expérience. Il utilise maintenant une “version édulcorée” de recrutement moteur pour aider avec certains rudimentaire tâches ménagères, y compris l’abattage dupliquer les profils des candidats à partir de bases de données, l’une des personnes familières avec le projet dit.

Un autre a dit une nouvelle équipe à Edimbourg a été formé pour donner automatisée d’emploi de dépistage, essayez un autre, cette fois avec un accent sur la diversité.