Amazon ditched AI-recruiting-tool, bevorzugt Männer für technische Berufe

0
8

Amazon machine-learning-Spezialisten aufgedeckt ein großes problem: Ihre neuen recruiting-engine nicht wie Frauen.

Das team hatte Gebäude EDV-Programme seit 2014 zu überprüfen job-Bewerber Lebensläufe, mit dem Ziel, mechanizing die Suche nach top-Talente, fünf Leute, die bereits vertraut mit dem Aufwand, gegenüber Reuters.

Automation ist der Schlüssel zu Amazons e-commerce-Dominanz, sei es in Hallen oder fahren pricing-Entscheidungen. Die Firma experimentelle Einstellung tool verwendet künstliche Intelligenz, um Kandidaten zu geben-scores reichen von einem bis fünf Sterne – viel-Shopper bewerten Produkte auf Amazon, einige der Leute sagen.

“Jeder wollte in diesem Heiligen Gral”, eine von den Menschen sagte. “Sie haben buchstäblich wollte, dass es eine engine, bei der ich werde Ihnen 100 Lebenslauf, wird es ausspucken die top fünf, und wir mieten.”

Aber 2015, das Unternehmen erkannte seinen neuen Systems war die nicht-Bewertung der Kandidaten für software developer-jobs und andere technische Beiträge in eine gender-Neutrale Art und Weise.

Die Automatisierung vernichten Millionen von Arbeitsplätzen. Wir müssen mit jetzt | Yvette Cooper

Lesen Sie mehr

Das ist, weil Amazon den computer-Modelle trainiert wurden, Tierarzt Bewerbern durch Beobachtung der Muster im Lebenslauf abgegeben, um das Unternehmen über einen Zeitraum von 10 Jahren. Die meisten kamen von Männern, eine Reflexion der männlichen Dominanz über die tech-Industrie.

Im Effekt, Amazons system lehrte selbst, dass männliche Kandidaten waren vorzuziehen. Es bestraft Lebenslauf enthalten, dass das Wort “Frauen”, wie in “women’ s chess club-Kapitän”. Und es herabgestuft Absolventen der beiden Frauen-colleges, nach Menschen vertraut mit der Materie.

Amazon bearbeitet die Programme, um Sie neutral zu diesen besonderen Bedingungen. Aber das war keine Garantie dafür, dass die Maschinen würden nicht ersinnen andere Möglichkeiten der Sortierung der Kandidaten, die beweisen konnten, diskriminierend, die Leute sagten.

Die Seattle Unternehmen letztlich löste sich das team auf den start im letzten Jahr, weil die Verantwortlichen die Hoffnung verloren für das Projekt, nach den Menschen, die Sprach unter der Bedingung der Anonymität. Amazon Recruiter schaute auf die Empfehlungen, generiert durch das Werkzeug bei der Suche nach neuen Mitarbeitern, doch nie verließ sich ausschließlich auf die rankings, sagte Sie.

Amazon lehnte eine Stellungnahme auf die Rekrutierung von Motor oder seine Herausforderungen, aber die Firma sagt, es ist verpflichtet, um der Vielfalt am Arbeitsplatz und der Gleichberechtigung.

Die Firma ist der Versuch, die Reuters ist zunächst zu berichten, bietet eine Fallstudie zu den Grenzen des maschinellen Lernens. Es dient auch als eine Lektion zu der wachsenden Liste von großen Unternehmen, darunter Hilton Worldwide Holdings und Goldman Sachs, die Suche zu automatisieren Teile des Einstellungsverfahrens.

Franken-algorithmen: die tödlichen Folgen des unberechenbaren code

Lesen Sie mehr

Etwa 55% der US-amerikanischen human-resources-Manager, sagte die künstliche Intelligenz oder AI, das wäre ein regulärer Teil Ihrer Arbeit in den nächsten fünf Jahren, nach 2017 eine Umfrage von talent software-Firma CareerBuilder.

Die männliche Sprache

Amazon experiment begann in einer entscheidenden Phase für das weltgrößte online-Händler. Machine learning wurde an Zugkraft gewinnen in der Welt der Technologie, Dank zu einem Anstieg der low-cost-computing-power. Und die Amazon-Personalabteilung wurde über und begeben Sie sich auf eine Einstellung spree; seit Juni 2015, das Unternehmen ist die weltweite Mitarbeiterzahl hat sich mehr als verdreifacht auf 575.700 Arbeitnehmer Zulassungsanträge zeigen.

So ist es, ein team in Amazon Edinburgh engineering hub wuchs um rund ein Dutzend Personen. Ihr Ziel war die Entwicklung von KI, könnte schnell die das web Crawlen und spot-Kandidaten lohnt sich die Rekrutierung, die mit der Sache vertraute Personen sagten.

Die Gruppe erstellt 500 computer-Modelle konzentrierte sich auf die spezifischen job-Funktionen und Standorte. Sie lehrte uns alle zu erkennen, einige von 50.000 Bedingungen, die gefunden wurden, auf die Vergangenheit der Kandidaten Lebenslauf. Die algorithmen gelernt zuweisen wenig Bedeutung zu Fähigkeiten, die weit verbreitet waren über IT-Bewerber, wie die Fähigkeit zu schreiben, verschiedene computer-codes, die Leute sagten.

Stattdessen wird die Technologie begünstigt Kandidaten, die beschrieben, wie sich mithilfe von Verben häufiger als männliche Ingenieure, Lebensläufe, wie Sie “ausgeführt” und “eingefangen”, hat einer gesagt.

Gender-bias war nicht das einzige Problem. Probleme mit den Daten, untermauert die Modelle ” Urteile gemeint, dass unqualifizierte Kandidaten wurden oft empfohlen für alle Arten von jobs, die Leute sagten. Mit der Technologie, die Ergebnisse zurückgegeben werden, fast zufällig, Amazon Herunterfahren des Projekts, sagte Sie.

Das problem oder die Heilung?

Andere Unternehmen voran sind, und unterstreicht die Bereitschaft der Arbeitgeber zu nutzen, AI für die Einstellung.

Kevin Parker, CEO von HireVue, einem startup, in der Nähe von Salt Lake City, sagte automation Unternehmen dabei zu helfen, schauen über den gleichen recruiting-Netzwerke, auf die Sie schon lange verlassen. Seine Firma analysiert die Kandidaten Rede und mimik in video-interviews zu verringern die Abhängigkeit von Lebensläufen dar.

“Sie waren nicht zurück zu den gleichen alten Orten; Sie gingen nicht wieder auf nur der Ivy League Schulen,” Parker sagte. Seine Kunden gehören Unilever PLC und Hilton.

Goldman Sachs hat seine eigene Lebenslauf-Analyse-tool, das versucht, die Kandidaten mit der division, wo Sie die “best-fit”, teilte das Unternehmen mit.

LinkedIn, das weltweit größte professionelle Netzwerk, das weiter gegangen ist. Es bietet Arbeitgebern Algorithmische Ranking von Kandidaten, die basierend auf Ihren fit für die job-postings auf seiner Website.

Joseph Stiglitz über künstliche Intelligenz: “Wir gehen in Richtung einer Spaltung der Gesellschaft’

Lesen Sie mehr

Noch, John Jersin, Vize-Präsident von LinkedIn Talent Solutions, sagte, der service ist kein Ersatz für die traditionellen recruitern.

“Ich wäre sicherlich nicht das Vertrauen einer AI-system heute zu machen eine Einstellung Entscheidung auf seine eigene,” sagte er. “Die Technologie ist einfach noch nicht bereit.”

Einige Aktivisten sagen, Sie sind besorgt über die Transparenz in AI. Die American Civil Liberties Union ist es derzeit schwierig ein Gesetz, mit dem die strafrechtliche Verfolgung von Wissenschaftlern und Journalisten, test, Einstellung von Webseiten und die algorithmen für die Diskriminierung.

“Wir sind zunehmend die Fokussierung auf Algorithmische fairness als ein Problem,” sagte Rachel Goodman, ein Mitarbeiter-Anwalt mit der Racial Justice Program an der ACLU. Noch, Goodman und anderen Kritikern der KI anerkannt, könnte es außerordentlich schwierig zu Klagen Arbeitgeber über automatisierte Einstellung; der Bewerber kann nie wissen, es war verwendet werden.

Wie bei Amazon, dem Unternehmen gelang es, zu retten, was es gelernt von Ihren gescheiterten AI-experiment. Es verwendet nun eine “viel abgespeckter version” der recruiting-engine zu helfen, mit einigen rudimentären Aufgaben, einschließlich Keulung doppelte Kandidaten-Profilen aus Datenbanken, einer der Menschen mit dem Projekt bekannt sagte.

Ein anderer sagte, ein neues team in Edinburgh wurde gegründet, um automatische employment screening, die anderen versuchen, dieses mal mit einem Fokus auf Vielfalt.