Amazon abbandonato AI reclutamento strumento che ha favorito gli uomini per i lavori tecnici

0
6

Di Amazon di apprendimento automatico specialisti scoperto un grosso problema: il loro nuovo reclutamento motore non piacciono le donne.

La squadra era stata la creazione di programmi informatici a partire dal 2014 a scrivere una recensione di candidati di lavoro il curriculum vitae, con l’obiettivo di meccanizzare la ricerca del talento superiore, cinque persone che hanno familiarità con lo sforzo, ha detto a Reuters.

L’automazione è stata la chiave di Amazon e-commerce posizione dominante, all’interno di magazzini o di guida le decisioni di prezzo. L’azienda sperimentale assumere strumento di intelligenza artificiale per dare il lavoro i candidati punteggi che vanno da una a cinque stelle, così come gli acquirenti di prodotti su Amazon, alcune persone, ha detto.

“Tutti volevano questo santo graal,” una delle persone ha detto. “Che letteralmente non voleva essere un motore di dove sto andando a dare il 100 curricula, sarà sputare fuori i primi cinque, e ci assumere quelli.”

Ma entro il 2015, la società ha realizzato il suo nuovo sistema non valutazione di candidati per software developer lavori e di altri tecnici posti in modo neutro rispetto al genere.

Automazione è in grado di distruggere milioni di posti di lavoro. Abbiamo a che fare con esso ora | Yvette Cooper

Leggi di più

Che è perché Amazon modelli di computer sono stati addestrati per la formazione professionale dei candidati, osservando modelli nel curriculum presentato all’azienda, nel corso di un periodo di 10 anni. La maggior parte proveniva da uomini, una riflessione di dominio maschile in tutto il settore tech.

In effetti, Amazon sistema insegnato stesso che i candidati di sesso maschile erano preferibili. È penalizzato curriculum che includeva la parola “donne”, come in “le donne del club di scacchi capitano”. E declassato laureati di due donne, dei collegi, secondo persone vicine alla vicenda.

Amazon modificato i programmi per renderli neutri a queste particolari condizioni. Ma era alcuna garanzia che le macchine non inventare altri modi di ordinamento candidati che potrebbero risultare discriminatoria, la gente ha detto.

L’azienda di Seattle alla fine si sciolsero la squadra dall’inizio dello scorso anno, perché i dirigenti perso la speranza per il progetto, secondo la gente, che ha parlato a condizione di anonimato. Amazon recruiters guardato le raccomandazioni generate dallo strumento durante la ricerca per i nuovi assunti, ma mai fatto affidamento esclusivamente sulla classifica, hanno detto.

Amazon ha rifiutato di commentare il reclutamento del motore o le sue sfide, ma la società dice che è impegnata a diversità sul posto di lavoro e l’uguaglianza.

La società esperimento, che Reuters è da segnalare innanzitutto, offre un caso di studio nelle limitazioni di machine learning. Essa serve anche come una lezione alla crescente lista di grandi aziende, tra cui Hilton Worldwide Holdings e Goldman Sachs, che stanno cercando di automatizzare parti del processo di assunzione.

Franken-algoritmi: le mortali conseguenze imprevedibili codice

Leggi di più

Circa il 55% di NOI i responsabili delle risorse umane, ha detto l’intelligenza artificiale, o AI, vorresti essere una parte normale del loro lavoro entro i prossimi cinque anni, secondo il 2017 sondaggio sul talento società di software di Bakeca.

Il linguaggio maschile

Amazon esperimento è iniziato in un momento cruciale per il mondo del più grande rivenditore online. Macchina di apprendimento è stato guadagnando trazione nel mondo della tecnologia, grazie a un aumento a basso costo con la potenza di calcolo. E Amazon dipartimento Risorse Umane stava per imbarcarsi su un affitto sprea; dal giugno 2015, l’azienda globale di organico è più che triplicato, passando a 575,700 lavoratori, la limatura di regolamentazione show.

Quindi, ha istituito un team di Amazon Edimburgo polo di ingegneria, che è cresciuto a circa una dozzina di persone. Il loro obiettivo era quello di sviluppare IA che potrebbe rapidamente la scansione del web e spot candidati che vale la pena di reclutamento, le persone che hanno familiarità con la materia ha detto.

Il gruppo creato 500 modelli di computer focalizzati su specifiche funzioni di lavoro e le posizioni. Hanno insegnato a ciascuno di riconoscere circa 50.000 termini che sono stati trovati sul passato dei candidati, il curriculum vitae. Gli algoritmi imparato ad assegnare poca importanza alle competenze che erano comuni attraverso di ESSO i candidati, come ad esempio la possibilità di scrivere i vari codici di computer, la gente ha detto.

Invece, la tecnologia favorito i candidati che hanno descritto il loro utilizzo di verbi più comunemente si trovano sul maschio ingegneri riprende, come “eseguito” e “catturato”, una persona ha detto.

I pregiudizi di genere non è l’unico problema. Problemi con i dati che ha sostenuto i modelli sentenze significava che non qualificato candidati sono spesso raccomandato per tutti i tipi di posti di lavoro, la gente ha detto. Con la tecnologia di restituire i risultati, quasi a caso, Amazon arrestare il progetto, hanno detto.

Il problema o la cura?

Altre aziende stanno andando avanti, sottolineando il desiderio di datori di lavoro di sfruttare AI per il noleggio.

Kevin Parker, amministratore delegato di HireVue, una startup vicino a Salt Lake City, ha detto che l’automazione è aiutare le aziende a guardare al di là della stessa reclutamento di reti su cui hanno a lungo invocato. Il suo studio analizza candidati, il discorso e le espressioni facciali nel video le interviste a ridurre la dipendenza dal curriculum.

“Non eri tornare al vecchio luoghi; non solo all’interno di scuole della Ivy League,” Parker ha detto. I suoi clienti includono Unilever PLC e Hilton.

Goldman Sachs ha creato il proprio curriculum strumento di analisi che cerca di far corrispondere i candidati con la divisione dove sarebbero le “best fit”, ha detto la società.

LinkedIn, il più grande network professionale, è andato oltre. Offre i datori di lavoro algoritmico graduatorie basate su loro misura per i postings di lavoro sul suo sito.

Joseph Stiglitz sull’intelligenza artificiale: ‘stiamo andando verso una società divisa’

Leggi di più

Ancora, Giovanni Jersin, vice-presidente di LinkedIn Talento Soluzioni, ha detto che il servizio non è un sostituto per il tradizionale recruiters.

“Io certamente non fidarsi di qualsiasi sistema di IA oggi a fare una decisione assumente,” ha detto. “La tecnologia non è ancora pronta.”

Alcuni attivisti dicono che sono preoccupati per la trasparenza AI. L’American Civil Liberties Union è attualmente impugnazione di una legge che consente l’azione penale di ricercatori e giornalisti che si prova di assunzione di siti di algoritmi per la discriminazione.

“Siamo sempre più concentrando su algoritmica correttezza come un problema,” ha detto Rachel Goodman, un avvocato personale con la Giustizia Razziale Programma presso l’ACLU. Ancora, Goodman e altri critici di AI riconosciuto che potrebbe essere estremamente difficile per citare in giudizio il datore di lavoro automatizzate di assunzione; i candidati di lavoro potrebbe non sapere mai usato.

Come per Amazon, l’azienda è riuscita a recuperare alcune di ciò che ha imparato dal suo fallito AI esperimento. Esso utilizza ora un “molto la versione edulcorata” del reclutamento motore per aiutare con alcuni rudimentali faccende, tra cui l’abbattimento duplicato profili di candidati da un database, una delle persone che hanno familiarità con il progetto, ha detto.

Un altro ha detto che un nuovo team di Edimburgo è stata costituita per dare automatizzato per l’occupazione di screening un altro tentativo, questa volta con un focus sulla diversità.