Искусственный интеллект Amazon был разработан для сортировки поступающих резюме на определённые должности в компании. Однако спустя некоторое время после работы наученного робота, разработчики выявили, что система открыто дискриминирует женщин, оценивая их как худших соискателей по сравнению с мужчинами.

      В «корзину» шли те резюме, в которых встречались слова «женский», и, напротив, в топе рекомендованных кандидатов неизменно оставались те соискатели, в резюме которых были использованы глаголы в мужском роде и иные указания на половую принадлежность, даже несмотря на то, что фактически такие кандидаты не обладали нужными навыками и качествами на искомую ими должность. Программу пришлось закрыть. 

      В чем же дело? Было ли отсутствие принципа гендерной нейтральности делом случая или следствием собственных предпочтений машины? Причина оказалась гораздо проще.: ответ крылся в обучении робота. 

      Тренировка искусственного интеллекта Amazon основывалась на сортировке резюме, которые приходили в компанию в последние 10 лет. Поскольку компания специализируется на IT технологиях, то преобладающая часть резюме приходила от мужчин, что и сформировало алгоритм выборки якобы наилучших кандидатов. 

      В дальнейшем проект подвергнулся доработке, чтобы исключить ложную реакцию на слова-сигналы. Однако это не создавало гарантий к тому, что не будет найден другой путь для выявления резюме женщин. В итоге судьба проекта Amazon не определена. Есть версии, что проект закрылся насовсем. Иные источники утверждают, что создана новая команда для усовершенствования данного искусственного интеллекта в целях обеспечения равноправия. Третьи источники говорят, что видоизмененная версия используется в настоящее время для выполнения простой работы, в том числе удаление повторяющихся резюме из базы данных.