Amazon údajně ukončil vývoj AI rekrutačního nástroje, měl být zaujatý proti ženám

Amazon údajně ukončil vývoj svého interního AI rekrutačního nástroje, který byl prý zaujatý vůči ženám. Software měl konkrétně penalizovat přihlášky, které obsahovaly slovo „ženský“. Informovala o tom agentura Reuters.

Týkalo se to např. kandidátek, které absolvovaly vysoké školy navštěvované pouze ženami, nebo těch, které se v životopisu zmiňovaly o ženském šachovém klubu apod. Jelikož AI systémy se učí činit rozhodnutí tím, že analyzují historická data, k zachovávání stávajících předsudků může docházet poměrně často. V tomto případě bylo předpojatostí pracovní prostředí technologického světa, kterému dominují muži.

Projekt Amazonu vznikl údajně proto, že technologický a internetový gigant potřeboval urychlit proces nabírání nových zaměstnanců. Nejmenovaný zdroj agentuře řekl, že výsledkem měl být „engine, který ze 100 životopisů vybere pět nejlepších kandidátů a ty potom zaměstná“.

Když si Amazon uvědomil, že software nepřichází s genderově neutrálními výsledky, upravil jej tak, aby předpojatost vůči ženám odstranil. Společnost však podle zdroje ani poté nemohla vyloučit, že se do systému již předtím vkradly i jiné předsudky, takže projekt raději ukončila. Podle agentury to bylo již loni.

V posledních několika letech v souvislosti s tím, jak se AI používá ve stále více kontextech, někteří experti začínají čím dál hlasitěji upozorňovat právě na nebezpečí „zatvrzování“ předsudků. Podle nich se mohou snadno vloudit do široké škály AI programů, od algoritmů používaných technologiemi na rozpoznání obličeje po systémy používané soudy nebo nemocnicemi.

Zdroj: reuters.com, theverge.com