Дело в том, что при подборе персонала искусственный интеллект неправильно выбирал кандидатов, отдавая предпочтение в основном мужчинам и намерено отсеивая женщин. Любые попытки исправить проблемы не увенчались успехом.
Amazon поручила искусственному интеллекту просканировать базу всех резюме за последние 10 лет и найти годных кандидатов на те или иные должности.
При анализе резюме искусственный интеллект должен был выставлять баллы тем кандидатам, которых он считал лучшими. Если кто-то не подходил, баллы уменьшались. Таким образом, разработчики заметили, что при подборе персонала программа занижает рейтинг выпускницам женских колледжей и всем кандидатам, у которых упоминались женские организации.
Все тесты программы закончились еще в прошлом году, когда поняли, что пока не могут обучить систему правильно отбирать резюме. Таким образом, проект заморозили.
