Утверждения, что ИИ может повысить разнообразие на рабочих местах, «ложные и опасные»

May 06, 2023

В последние годы появились инструменты искусственного интеллекта, рекламируемые как ответ на отсутствие разнообразия в рабочей силе: от использования чат-ботов и парсеров резюме для подбора потенциальных кандидатов до программного обеспечения для анализа видеоинтервью.

Авторы технологии утверждают, что она устраняет человеческие предубеждения в отношении пола и этнической принадлежности во время набора персонала, вместо этого используя алгоритмы, которые считывают словарный запас, речевые модели и даже микровыражения лица, чтобы оценить огромные группы претендентов на работу на предмет правильного типа личности и «соответствия культуре». "

Однако,в новом отчете, опубликованномИсследователи из Кембриджского Центра гендерных исследований, получившие степень доктора философии и технологий, утверждают, что эти утверждения делают некоторые применения ИИ при найме немногим лучше, чем «автоматизированная лженаука», напоминающая физиогномику или френологию: дискредитированные убеждения о том, что личность можно определить по чертам лица и форме черепа. .

Они говорят, что это опасный пример «технорешения»: обращение к технологиям для быстрого решения глубоко укоренившихся проблем дискриминации, которые требуют инвестиций и изменений в корпоративной культуре.

Фактически, исследователи работали с командой студентов-компьютерщиков Кембриджа, чтобы развенчать эти новые методы найма, создав инструмент искусственного интеллекта, смоделированный на основе этой технологии.

«Машина личности» демонстрирует, как произвольные изменения в выражении лица, одежде, освещении и фоне могут дать радикально разные показания личности – и, таким образом, могут иметь значение между отказом и прогрессом для поколения соискателей работы, претендующих на должности выпускников.

Команда из Кембриджа утверждает, что использование искусственного интеллекта для сужения пула кандидатов может в конечном итоге повысить однородность, а не разнообразие рабочей силы, поскольку технология настроена на поиск «идеального кандидата», о котором мечтает работодатель.

По мнению исследователей, это может привести к тому, что те, кто имеет правильное образование и опыт, «победят алгоритмы», воспроизводя поведение, которое ИИ запрограммирован идентифицировать, и применяя эти отношения на рабочем месте, говорят исследователи.

Кроме того, поскольку алгоритмы оттачиваются с использованием прошлых данных, они утверждают, что кандидаты, считающиеся наиболее подходящими, скорее всего, в конечном итоге окажутся теми, кто наиболее похож на нынешнюю рабочую силу.

«Мы обеспокоены тем, что некоторые продавцы упаковывают продукты «змеиного масла» в блестящую упаковку и продают их ничего не подозревающим покупателям», — сказала соавтор доктор Элеонора Дрейдж.

«Заявляя, что расизм, сексизм и другие формы дискриминации можно исключить из процесса найма с помощью искусственного интеллекта, эти компании сводят расу и пол к незначительным точкам данных, а не к системам власти, которые определяют, как мы движемся по миру. ."

Исследователи отмечают, что эти инструменты ИИ по подбору персонала часто являются проприетарными (или «черными ящиками»), поэтому то, как они работают, остается загадкой.

«Хотя компании, возможно, и не действуют недобросовестно, ответственность за то, как создаются или тестируются эти продукты, невелика», — сказал Драге. «Таким образом, эта технология и то, как она продается, могут стать опасными источниками дезинформации о том, как можно «предвзято» и сделать более справедливым набор персонала».

Несмотря на некоторое сопротивление (например, предложенный ЕС Закон об искусственном интеллекте классифицирует программное обеспечение для найма на основе искусственного интеллекта как «высокорискованное»), исследователи говорят, что инструменты, созданные такими компаниями, как Retorio и HIreVue, применяются с незначительным регулированием, и указывают на опросы, предполагающие использование искусственного интеллекта. найм сотрудников растет как снежный ком.

Исследование, проведенное в 2020 году среди 500 организаций из различных отраслей в пяти странах, показало, что 24 процента предприятий внедрили ИИ для целей подбора персонала, а 56 процентов менеджеров по найму планировали внедрить его в следующем году.

Другой опрос 334 руководителей кадровых служб, проведенный в апреле 2020 года, когда разразилась пандемия, показал, что 86 процентов организаций используют новые виртуальные технологии в практике найма сотрудников.

«Эта тенденция… уже существовала, когда началась пандемия, и ускоренный переход к онлайн-работе, вызванный COVID-19, вероятно, приведет к более широкому использованию инструментов искусственного интеллекта в отделах кадров в будущем», — сказал соавтор доктор Керри Маккерет. который вместе с Drage представляет подкаст Good Robot, в котором дуэт исследует этику технологий.