Компания Amazon, которая в этом году наняла своего полумиллионного сотрудника, сильно озабочена автоматизацией процессов. Она же одна из самых высокотехнологичных компаний в мире, поэтому при первой возможности инженеры компании пытаются снять с человека рутинную работу и переложить ее на роботов и искусственный интеллект. Так поступили и с процессом наема кадров, но вскоре разработчики ИИ обнаружили, что алгоритм стал вести себя как токсичный мужик и отказывался брать на работу женщин, сообщает Reuters, ссылаясь на анонимные источники внутри компании.
Кадровика-сексиста начали разрабатывать еще в 2014-м, натренировав его оценивать около 50 тысяч ключевых слов в резюме работников. Правда, алгоритм тренировали на практике наема последних десяти лет, когда в IT доминировали мужчины. Система рассудила, что отсутствие Y-хромосомы — недостаток, и начала не просто понижать женские резюме в рейтинге, но и в целом отсеивать резюме, содержащие слово «женщина».
Алгоритм попытались доработать, но руководство приняло решение перестраховаться и распустило первоначальную команду создателей кадровика-сексиста. Какие-то наработки оставили, но новый софт решили разрабатывать с нуля, используя другой алгоритм.
Как пишет Reuters, пока Amazon вернулась на полуавтоматический отбор кандидатов.
