В Швейцарии доказали сексизм алгоритмов | En Suisse, on a prouvé le sexisme des algorithmes

Кто увидит объявление «Требуется водитель»? А объявление «Требуется парикмахер»? Швейцарская телерадиокомпания RTS и немецкая некоммерческая организация AlgorithmWatch, оценивающая особенности использования алгоритмов, опубликовали объявления о вакансиях в Facebook и Google в Швейцарии, Германии, Польше, Франции и Испании. «Работодатели» искали разработчика в области машинного обучения, водителя грузового автомобиля, парикмахера, учителя начальных классов, юрисконсульта и санитара (все эти существительные специально были написаны в мужском роде), при этом в объявлениях не были указаны пол, возраст и уровень образования кандидатов.

В результате алгоритмы Facebook, и – в меньшей степени – алгоритмы Google автоматически выбрали, кому в первую очередь показывать те или иные объявления. В Швейцарии текст объявления «Требуется водитель грузового автомобиля» увидели 3607 мужчин и 631 женщина, в Германии – 4864 и 386 соответственно. В то же время, объявление «Учитель начальных классов» отобразилось в результатах поиска для 1203 швейцарок и 369 швейцарцев, а также для 6456 немок и 258 немцев.

По оценке специалистов, сегодня многие люди думают, что если результаты получены при помощи компьютерных программ, то это говорит об их объективности. Однако большинство программистов – мужчины, что влияет на работу алгоритмов, которые они пишут. Исследователи первоначально полагали, что дискриминация при показе объявлений объясняется количеством «кликов» на конкретный текст. На деле выяснилось, что сексизм в работе алгоритмов проявляется еще до того, как пользователи выберут то или иное объявление. Более того, если по-французски написать «водитель» в женском роде (chauffeuse) и добавить фотографию автомобиля, то объявление все равно будет показано, в основном, мужчинам. Если же в таком тексте использовать фото косметики, то объявление увидят в первую очередь женщины, причем алгоритмы Facebook оказались более сексистскими, чем алгоритмы Google. Такое поведение программ приводит к укреплению старых стереотипов и влияет на поведение людей, считают исследователи.

Добавим, что в Google разница между показами мужчинам и женщинам ни разу не превысила 20%. Ни Facebook, ни Google не ответили на просьбу экспертов прокомментировать результаты исследования. Реакцией со стороны Google стало решение удалить большую часть объявлений, оплаченных организацией AlgorithmWatch.
Интересно, что в швейцарском законе о равенстве (LEg) нет положений об алгоритмах, поскольку закон вступил в силу в 1996 году, но есть положения, запрещающие дискриминацию по половому признаку при приеме на работу, а также предусматривающие выплату компенсации, если факт дискриминации будет доказан. Впрочем, эти положения касаются именно трудоустройства, но не объявлений, в которых работодатели могут указать, что ищут на конкретную должность только мужчин или только женщин.

Отметим, что вышеописанное исследование – не единственное, в котором подчеркивается сексизм алгоритмов Facebook. В 2019 году в журнале Proceedings of the ACM on Human-Computer Interaction было опубликовано исследование, авторы которого пришли к выводу, что крупнейшая соцсеть в мире может показывать некоторые объявления о вакансиях так, что мужчины или женщины окажутся в невыгодном положении, даже если сам работодатель не хотел отдавать предпочтение первым или вторым. Ученые Северо-Восточного университета Бостона и Университета Южной Калифорнии опубликовали на Facebook вакансии специалистов по лесозаготовкам, а также воспитателей в детские сады. В настройках объявлений было указано, что их следует показывать одинаково часто как мужчинам, так и женщинам, однако первое объявление видели, в основном, мужчины, а второе – женщины.

Кроме того, исследователи опубликовали объявления о продаже домов, а также о сдаче жилья в аренду. Второе объявление видели, преимущественно, афроамериканцы, а вот первое им показывалось очень редко. Эта автоматическая, хотя и непреднамеренная дискриминация объясняется тем, что алгоритмы анализируют, какие видео, тексты или изображения пользуются наибольшей популярностью у пользователей в каждой категории и подбирают для них подобные записи. Впрочем, Facebook регулярно вносит изменения в работу в своих программ, параллельно защищаясь в суде от недовольных пользователей, в числе которых – различные организации и даже государственные учреждения. Будем надеяться, что программисты найдут оптимальное решение, и мы сможем назвать работу алгоритмов прогрессом в полном смысле этого слова.