В Нью-Йорке приняли закон, который запрещает использовать ИИ для хайринга без предупреждения

Так, работодателям и рекрутинговым фирмам запрещается применять тот или иной «автоматизированный инструмент для решений о найме, если он не проходил проверку на предвзятость в течение одного года его использования, информация о его проверке на предвзятость не находится в открытом доступе», и если сотрудников и соискателей не предупреждают о его использовании. Речь идёт о предвзятостях по национальному или расовому и гендерному признакам. Компаний-нарушителей ждёт штраф.

Закон был принят ещё в 2021 году, но его вступление в силу постоянно затягивалось из-за необходимости уточнения того, какие именно инструменты он должен охватывать и что должна представлять из себя проверка и её итоги. Окончательная версия была опубликована в середине апреля, а заработает он 5 июля.

Это первый подобный закон в стране. Критики недовольны формулировкой «автоматизированный инструмент для принятия решений о найме» — они считают, что оно слишком расплывчатое и что работодатели всё равно продолжат применять «предвзятые» инструменты, если окончательное решение о найме будет принимать человек.

Как отмечает Dice, работодатели много лет пытаются автоматизировать процесс хайринга, и проблема предвзятости существовала с самого начала. Например, в 2018 году Amazon пыталась построить рекрутинговую платформу на базе машинного обучения. За основу была взята база резюме за десять лет. Сразу же обнаружился сдвиг в пользу кандидатов мужского пола, поскольку на них приходилось большинство резюме, и алгоритмы посчитали их более предпочтительными кандидатами. Проект был свёрнут.

Между тем компании активно пользуются ИИ при найме: согласно исследованию 2022 года, примерно четверть компаний прибегает к помощи инструментов для автоматизации и/или на основе ИИ в эйчарских задачах.