Несмотря на то, что во многих сферах бизнеса благодаря использованию искусственного интеллекта удалось добиться значительного успеха в борьбе с предвзятостью при найме на работу, в технологическом секторе изменений пока не так много. И как оказалось, существующие алгоритмы ИИ тоже вполне себе могут допускать предвзятость при подборе кадров. Эксперты возлагают надежду на новые разработки в сфере ИИ, которые справляются с предвзятостью как рекрутеров, так и искусственного интеллекта.
Фото: Martin Meissner, AP
Фото: Martin Meissner, AP
На протяжении многих лет в Великобритании труднее было устроиться на работу в какую-нибудь компанию человеку, если он закончил непрестижный университет, если у него неевропейская внешность или имя, если он живет в неподходящем месте. Женщин менее охотно брали на работу, чем мужчин. Исследования показывают, что даже сейчас люди с английскими именами и фамилиями на 40% чаще получают приглашение на собеседование, чем люди с китайскими, индийскими или пакистанскими именами.
В последние годы компании стараются разработать и использовать инновационные методы отбора кандидатов. Однако, как показывает статистика, до технологического сектора эти изменения еще не дошли в полной мере.
Так, по данным British Computer Society, в прошлом году доля женщин-специалистов в британском секторе ИТ составляла лишь 17%, а в этом году выросла до 20%, и из них только 0,7% чернокожие. И чем выше должность в компаниях этого сектора, тем меньше женщин там работает — на руководящих должностях в этом году их всего 12%.
Недавно на помощь рекрутерам пришел искусственный интеллект, который должен был не только избавить выбор предвзятости, но и автоматизировать его и тем самым упростить и ускорить. Один из вариантов использования ИИ при найме — программа Be Applied. Программа предлагает соискателю онлайн-тест для определения уровня его квалификации. В тесте не требуется указывать ни пол, ни национальность, ни университет, ни место проживания.
Результаты теста, которые показывают только то, что знают и умеют соискатели, оцениваются сотрудниками компании, и на основании этих оценок отбираются те, кто пойдет на собеседование. Как показала практика, такая схема отбора кандидатов позволяет исключить предвзятость нанимателя, который до последнего момента не знает никаких личных характеристик потенциального сотрудника и не может отсеять его на том основании, что он инвалид, женщина, представитель меньшинств или закончил «не тот» университет.
Такой «слепой» метод отбора кандидатов, заложенный в ПО, использовал, например, британский стартап Public. В результате за три года у него увеличилась доля сотрудниц, и теперь там работает больше женщин, чем мужчин, что большая редкость в технологическом секторе. За все эти годы, отмечают в Public, программа дала осечку только один раз. Соискатель идеально выполнил тест, ответил на все вопросы, но потом оказалось, что живет он далеко за границей и никакого опыта работы по избранному им профилю у него нет.
Но оказалось, что не всегда ИИ полностью оправдывает эти надежды.
Поскольку алгоритмы ИИ — это не что иное, как искусственное воспроизведение машиной аналога мыслительной деятельности человека, то в запрограммированном человеком же алгоритме ИИ тоже может появиться предвзятость.
К примеру, в 2018 году компания Amazon отказалась от использования ИИ при подборе кадров, поскольку программа отдавала предпочтение мужчинам и игнорировала соискателей из числа женщин. Причина в том, что программа была настроена с учетом всего объема данных по кадровому составу компании за последние десять лет. А за этот период большинство заявлений о приеме на работу поступало именно от мужчин. И программа сделала «логичный» вывод, что мужчины предпочтительнее в качестве сотрудников.
Учитывая эти нюансы, разработчики продолжают искать способы исключить из процесса найма предвзятость как человека, так и ИИ. В британской компании MeVitae, занимающейся разработкой таких технологий, считают, что у них это получилось. С помощью технологий, позволяющих следить за движением глаз, специалисты MeVitae выяснили, как рекрутеры читают резюме.
Оказалось, что основное внимание рекрутеры обращают на имена соискателей, место их учебы, предыдущее место работы. «Но эта информация почти ничего не говорит о человеке и о том, что он умеет,— отметила в интервью The Guardian глава MeVitae нейробиолог Риам Сатти.— Имя человека — это не индикатор его способностей».
Поэтому в MeVitae разработали технологию, которая с помощью компьютерной лингвистики выявляет в резюме и скрывает описывающие человека данные (а это более 15 параметров) — а не его умения. После этого работодатель может изучить резюме, сконцентрировавшись только на «полезной» информации, и вынести непредвзятое решение о найме или отказе соискателю.
Как показывают результаты использования этой технологии в компаниях, она позволяет на 80% ускорить процесс подбора кадров.
ИИ способен за два часа обработать 1 тыс. резюме, на 46% повышает вероятность найма женщин и на 35% — вероятность найма представителя этнических меньшинств.
Однако у всех этих технологических разработок для улучшения процесса подбора кадров есть и обратная сторона медали. Как показало исследование, проведенное компанией Randstad RiseSmart, 57% сотрудников полагают, что процесс найма уже становится чересчур автоматизированным. И как отмечает управляющий директор этой компании Саймон Лайл, хороших соискателей могут не заметить при автоматическом сканировании резюме, если они не укажут какие-то ключевые слова.