Компания Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу. Однако от новой системы пришлось отказаться из-за дискриминации соискателей-женщин. Об этом сообщает Reuters со ссылкой на анонимные источники.
Механизм сортировки резюме на базе искусственного интеллекта разрабатывается в Amazon с 2014 г. группой из 12 специалистов в Эдинбурге. Уже в 2015 г. в компании заметили, что новая система не придерживается принципа гендерной нейтральности при оценке кандидатов на должности разработчиков ПО и другие технические вакансии.
Вскоре они поняли причину: дело в том, что система проходила обучение на резюме, поступивших в компанию за последние 10 лет. Большая часть этих резюме принадлежала мужчинам, что в целом отражает положение дел в IT-отрасли. В результате искусственный интеллект Amazon усвоил, что соискатели-мужчины более предпочтительны, чем женщины.
Кроме того, программа по какой-то причине блокировала резюме, содержавшие слово «женский» — например, в словосочетании «капитан женского шахматного клуба». Механизм также снижал оценки выпускницам двух женских колледжей, но источники Reuters не уточняют их названия. Оценивая резюме, искусственный интеллект присваивал им от одной до пяти звезд — очень похоже на то, как покупатели оценивают товары на сайте Amazon.
Инженеры вскоре поправили ошибку, однако в конце прошлого года в компании все равно решили отказаться от программы. По мнению руководства, система могла дискриминировать кандидатов и по другим признакам. В Amazon заверили, что никогда полностью не доверяли наем сотрудников системе, а использовали ее только для оценки.
