Náborová AI společnosti Amazon byla vyhozena za to, že je sexistická Náborový nástroj pracující na strojovém učení se zaměřil na mužské aplikace.
Odborníci na strojové učení společnosti Amazon vyvinuli od roku 2014 nástroj pro kontrolu obnovení pracovních míst, aby usnadnili hledání nových talentů. Společnost však zjistila problém s tímto náborem AI: vyhledávače byly sexistické a vyloučené ženy.
Podle zprávy ReutersMyšlenka byla, že tento nástroj dokáže zpracovat velké množství životopisů a po jejich analýze vytvoří pět vynikajících kandidátů připravených k přijetí. Pět lidí obeznámených s tímto nástrojem však uvedlo, že od roku 2015 jejich náborové systémy neposuzovaly kandidáty genderově neutrálním způsobem. A tohle vyhledávač vždy zobrazoval výsledky podporující mužské pohlaví pro pozice související s vývojem softwaru a více technických profesí.
Problém je, jak si dokážeme představit, byl v databázi. Zdá se, že odborníci na strojové učení vyškolili stroj ze vzorů, které lze pozorovat v učebních osnovách nabízených po dobu deseti let. V té době patřil většině mužů.
Systém se samozřejmě naučil, že jsou vhodnější mužští kandidáti potrestal všechny životopisy ženskými odkazy. Tento nástroj také snížil známky, které dal kandidátkám, a zahrnoval práci ve školicích střediscích pro ženy.
Podle Reuterszměnil náborové programy profesionálů společnosti, aby byla neutrální, ale předsudky stále pokračovaly Změny navíc nezaručovaly, že systém nevytváří žádnou jinou formu diskriminace.
Problém není jen v aplikacích, nástroj musel být naprogramován tak, aby uznal, že záměr společnosti je zaměřen na poskytování rovných příležitostí bez ohledu na pohlaví.
Nakonec podle zdrojů agentury Reuters společnost vedená Jeffem Bezosem rozpustil tým na začátku loňského roku protože manažeři ztratili v projektu veškerou naději. Anonymní zdroje uvedly, že náboráři Amazonu viděli výsledky, ale jednoduše neposlouchali.
