Гендерное равенство: ИИ более сексистичен, чем люди

Попробуйте посетить собеседование при приеме на работу, где интервьюером является искусственный интеллект. Звучит футуристично, не правда ли? Что ж, будущее уже наступило, и оно несет с собой проблему, которую никто не ожидал: ИИ дискриминирует. В Миланском политехническом университете создали интерактивную инсталляцию, моделирующую именно такую ​​ситуацию. Он называется «Не для нее», и название говорит само за себя. Во время этих виртуальных интервью искусственный интеллект демонстрирует все свои предубеждения в отношении женщин. Против гендерного равенства. И самое тревожное, что эти алгоритмы уже решают, кого нанимать в реальных компаниях.

Когда машина узнает наши худшие недостатки

Правда об искусственном интеллекте суровее, чем мы себе представляем. Алгоритмы, которые должны быть нейтральными, вместо этого усиливают гендерную дискриминацию способами, о которых мы и не мечтали. Исследование ЮНЕСКО «Предвзятое отношение к женщинам и девочкам в крупных языковых моделях» Раскрылась шокирующая реальность: в крупных языковых моделях женщины в четыре раза чаще описываются как домашние работники, чем мужчины.

Подумайте об этом: в то время как имена женщин ассоциируются со словами «дом», «семья» и «дети», имена мужчин автоматически ассоциируются с «бизнесом», «менеджером», «зарплатой» и «карьерой». Но проблема выходит за рамки простых словесных ассоциаций. Как вы объясните Донателла Шуто, ректор Миланского политехнического университета, искусственный интеллект может быть «инструментом дискриминации или предлагать возможность ответственного и этичного использования».

Алгоритм, который судит вас, не зная вас

Системы рекрутинга на базе искусственного интеллекта уже работают в тысячах компаний. Согласно исследованию RES GroupЕсли эти системы используют гендерно-обусловленные данные об обучении, они автоматически ограничивают доступ женщин к возможностям карьерного роста, способствуя сохранению разрыва в оплате труда.

Механизм чертовски прост: ИИ учится на прошлых данных, где гендерное неравенство было еще более выраженным. Результат? Алгоритмы предполагают, что это «нормально», и продолжают проводить различие, думая, что они поступают правильно. Как будто мы создали машины, запрограммированные игнорировать гендерное равенство и поддерживать статус-кво, даже если этот статус-кво несправедлив.

Гендерное равенство: пугающие цифры

Ситуация особенно плачевна в самом технологическом секторе. По данным Европейского института гендерного равенстваЖенщины занимают лишь 16% должностей в сфере ИИ, и лишь 12% специалистов с опытом работы более 10 лет — женщины. Перевод: алгоритмы, определяющие наше будущее, в основном разработаны мужчинами.

Этот разрыв отражается и в повседневном использовании технологий. Исследование Форума Оливера Уаймана на 25.000 XNUMX рабочих показали, что 59% мужчин используют инструменты генеративного ИИ не реже одного раза в неделю по сравнению с 51% женщин. Среди молодежи разрыв еще больше: 71% мужчин в возрасте от 18 до 24 лет против 59% женщин.

Гендерное равенство, которого никогда не будет

Проблема не только технологическая, но и структурная. Как подчеркивается в отчете Всемирного экономического форума, ни одна страна в мире не достигла гендерного равенства, и Чтобы преодолеть экономический разрыв, потребуется еще 152 года. Искусственный интеллект вместо того, чтобы ускорить этот процесс, рискует еще больше его замедлить.

Как мы уже подчеркивали на этих страницахЭволюция ИИ в сторону все более сложных форм усиливает необходимость решения этих проблем сейчас, пока они не стали необратимыми.

Необходимое пробуждение

Инсталляция «Не для нее» — это не просто искусство: это звонок-будильник. Каждый раз, когда алгоритм принимает дискриминационное решение, он не просто копирует прошлое: он строит будущее, в котором у женщин меньше возможностей, а гендерное равенство все больше становится утопией. Технология, которая должна была освободить нас от человеческих предрассудков, становится их самым мощным рупором.

Решение существует, но оно требует воли. Нам необходимо разнообразие в командах разработчиков, более справедливые данные для обучения и, что самое главное, понимание того, что каждый алгоритм может быть правильным. Потому что, если мы не начнем действовать сейчас, ИИ будущего не будет искусственным интеллектом: он будет искусственно глупым. И, честно говоря, мы не можем себе этого позволить.