Парадокс одиночества. Глобальное исследование нарастающей разобщенности человечества и ее последствий - Норина Герц

было выделено три минуты, чтобы ответить на каждый вопрос, но летая вслепую без всех обычных подсказок, которые можно получить от человека, проводящего собеседование, – мимики, движений головы, жестов, улыбок, хмурых взглядов – я не была уверена, говорю ли я слишком долго, или я должна была использовать все выделенное время. И мало того, что мне не у кого было спросить, но без улыбок, без взгляда, бегущего вниз к моему резюме, без языка тела, который нужно было разобрать, я не могла сказать, слышал ли мой «интервьюер» достаточно конкретный ответ, понравилось ли то, что я говорила, остались ли мои шутки понятыми, сопереживал ли он моим рассказам или, может быть, просто решил, что я не тот кандидат, которого они ищут. Итак, по мере того как интервью продолжалось, я чувствовала себя все более и более беспомощной, не в состоянии понять, продолжать ли мне двигаться дальше, замедлиться, изменить темп, сменить тактику, изменить свой стиль, больше или меньше улыбаться. Предположительно, идеальный кандидат на стажировку в области управления персоналом в Vodafone улыбается, но сколько раз и как долго?

Чтобы было ясно, не факт взаимодействия с машиной делал меня такой отчужденной. Скорее, дело было в дисбалансе сил между женщиной и машиной, который так беспокоил.

Лишенная моей полной, сложной человечности, я должна была произвести впечатление на машину, чьи алгоритмы работы черного ящика я никогда не смогу узнать.

На каких из моих «частных значений» он фокусировался и какое из них имел наибольший вес? Мой голос, моя интонация, язык тела или содержание того, что я говорила? По какой формуле меня оценивали? И было ли это справедливо?

Обычно мы не думаем об одиночестве в контексте того, какие чувства вызывает у нас взаимодействие с машиной. Еще ранее в книге, когда я говорила об изоляции бесконтактного существования, я делала упор на отсутствие прямого человеческого контакта и его воздействия. Но если одиночество также может быть вызвано чувством несправедливого отношения к себе и бесправия со стороны государства и политиков, оно также может быть вызвано таким же отношением к себе со стороны «большого бизнеса» и новых технологий, которые он внедряет.

Потому что, когда работодатель отдает наше профессиональное будущее в руки алгоритма, трудно поверить, что с нами будут обращаться справедливо или что мы сможем обратиться за помощью. Отчасти это связано с тем, что очень спорно, можно ли на самом деле определить будущую производительность по таким характеристикам, как выражение лица и тон голоса. Действительно, в ноябре 2019 года Электронный информационный центр конфиденциальности – известная американская исследовательская организация, представляющая общественные интересы, – подала официальную жалобу на HireVue в Федеральную торговую комиссию США, сославшись на «использование HireVue секретных, недоказанных алгоритмов для оценки “когнитивных способностей”, “психологических черт”, “эмоционального интеллекта” и “социальных способностей” кандидатов на работу».

Есть еще вопрос предвзятости. Хотя HireVue утверждает, что его методология избавляет от человеческих предубеждений, вряд ли это так. Это связано с тем, что его алгоритм будет обучен на видео прошлых или существующих «успешных наймов», а это означает, что любые прошлые предубеждения (сознательные или бессознательные) при найме, вероятно, будут воспроизведены.

На самом деле именно это произошло в Amazon в 2018 году, когда выяснилось, что ИИ-сортировщик резюме компании регулярно отклонял женские резюме, несмотря на то что ему никогда не «сообщали» пол соискателей. Почему? Он эффективно приучил себя к тому, что заявления, содержащие названия колледжей, состоящих только из женщин, или даже слово «женский» (например, «капитан женской шахматной команды») не соответствуют требованиям. Это произошло потому, что он был обучен делать выводы о том, являются ли кандидаты «квалифицированными» или «неквалифицированными» на основе данных о найме за десять лет в отрасли, где мужчины составляют подавляющее большинство кандидатов и сотрудников. Надо ли говорить, что в этой группе было очень мало капитанов женских шахматных команд.

Настройка алгоритма для устранения таких очевидных предубеждений, как пол, относительно проста.

Действительно, инженеры Amazon легко смогли отредактировать модель, чтобы отказаться от использования таких терминов, как «женский», в качестве причины для дисквалификации.

Но проблема с машинным обучением заключается в том, что даже если учитываются наиболее очевидные источники смещения (а они, несомненно, есть в системе вроде HireVue), как насчет менее очевидных, кажущимися нейтральными значений, которые можно даже не считать, которые могут быть рассмотрены как предвзятость?

Оказывается, например, что существуют значительные культурные различия, когда речь идет об улыбке. Американцы, например, улыбаются намного чаще и шире, чем люди из таких стран, как Финляндия, Япония и Германия – стереотип, подкрепленный исследованиями, которые предполагают, что улыбка коррелирует с историческим разнообразием страны. На самом деле американский инстинкт улыбаться и смотреть в глаза настолько заметен, что, когда Walmart открыл свои первые магазины в Германии в 1998 году, ему пришлось отказаться от проверенного временем требования, чтобы сотрудники улыбались покупателям, поскольку немцы интерпретировали широкую улыбку как неуместно заигрывающую. Учитывая такого рода несоответствия, предположение HireVue о том, что улыбка означает дружелюбие, уверенность и, для некоторых должностей, компетентность, рискует оценивать кандидатов по ценностям определенной нации или культуры, тем самым наказывая тех, кто, скажем, считает, что частая улыбка неуместна в обстановке собеседования.

Мы могли бы подвергнуть такой же критике вероятную интерпретацию HireVue изменения высоты голоса и словарного запаса:

выбор слов в такой же степени является продуктом региона, образования, этнической принадлежности, диалекта и класса, как и так называемого «интеллекта».

Подобно тому, как сортировщик резюме Amazon быстро «научился» ассоциировать косвенные показатели пола (например, слово «женский») с непригодностью, слишком легко представить, как алгоритм HireVue отсеивает кандидатов с определенным акцентом, разговорными выражениями и другими продуктами их культурных особенностей.

Затем, конечно, есть те переменные, которые человек мог бы распознать и объяснить в одно мгновение, но которые машинный процесс сопоставления с образцом не может понять: возможно, человек с деформацией лица, который не может улыбаться обычным образом; человек с дефектом речи, который не похож на предыдущих нанятых звезд; или даже кандидат, на лицо которого яркие потолочные светильники отбрасывают заметные тени так, что «машинный глаз» интерпретирует это как злобное выражение лица.

Откровенный разговор с машиной

Дело не в том, что менеджер по найму не может быть предвзятым или дискриминировать на собеседовании человека с другим цветом кожи, с определенным акцентом или с инвалидностью, даже если он не осознает, что делает это. Дело в том, что предположение о том, что решение, принятое алгоритмом, не будет так уязвимо для подобных предубеждений, просто неверно и говорит о нашей слепой вере в машины, а не в людей.

Более того, по мере того как алгоритмы становятся все более замысловатыми, а