USA · 2014–2017
Amazon: Die Bewerbungs-KI mochte keine Frauen
Amazon trainierte ein System, Lebensläufe mit ein bis fünf Sternen zu bewerten. Es lernte aus zehn Jahren Bewerbungen – überwiegend von Männern – und strafte das Wort „Frauen“ ab.
Ab 2014 baute ein Team bei Amazon ein Werkzeug, das Lebensläufe automatisch mit einem bis fünf Sternen bewerten sollte. Trainiert wurde es mit den Bewerbungen, die bei Amazon in den zehn Jahren davor eingegangen waren. Die kamen überwiegend von Männern.
Das System zog daraus seine Schlüsse: Es wertete Lebensläufe ab, in denen das Wort „women’s“ vorkam, etwa „Kapitänin des Frauen-Schachclubs“, und stufte Absolventinnen zweier reiner Frauen-Colleges herunter. Amazon korrigierte diese Begriffe, konnte aber nicht ausschließen, dass das System andere Wege fand, zu unterscheiden. Das Team wurde aufgelöst. Nach Amazons Angaben haben Personaler sich nie allein auf die Rangliste verlassen.
Bekannt wurde der Fall im Oktober 2018 durch eine Recherche der Nachrichtenagentur Reuters.
