ИИ воспроизводит сексизм — мужчинам отведены высокооплачиваемые профессии, а женщинам низкооплачиваемые

пост на 2 мин

Исследователи проанализировали видеоролики, сгенерированные нейросетями, и обнаружили устойчивый гендерный перекос: в 70% случаев высокооплачиваемые профессии — директора, разработчики, врачи — ИИ присваивал мужчинам, тогда как кассиры, сиделки, учителя и посудомойщики оказались исключительно женскими ролями. По мнению специалистов, нейросеть не изобретает стереотипы, а воспроизводит те, что заложены в обучающих данных, то есть отражает реальное положение дел в обществе. Подробности исследования опубликованы в Telegram-канале Mash Money, который рассказал о результатах анализа.

По словам исследователей в области машинного обучения, подобные искажения возникают из-за того, что нейросети обучаются на массивах данных, собранных из интернета, где исторически сложившиеся гендерные роли представлены неравномерно. Если в открытых источниках врачи и руководители чаще мужчины, а кассиры и няни — женщины, алгоритм запоминает эту закономерность и воспроизводит её без критической оценки. Проблема усугубляется тем, что сгенерированный контент затем снова попадает в интернет и может использоваться для обучения следующих поколений моделей, закрепляя предвзятость по принципу замкнутого цикла.

Это не единственная ситуация, когда ИИ демонстрирует ограниченность. Ранее Microsoft провела эксперимент, в рамках которого нейросеть выполняла типовые рабочие задачи для 52 профессий — от составления отчётов до анализа документов. Доля ошибок составила от 25 до 50%, что поставило под сомнение тезис о скорой замене людей искусственным интеллектом. А ряд компаний, которые массово сокращали штат в пользу автоматизации, уже нанимают обратно уволенных сотрудников, признав, что технология пока не справляется с задачами, требующими живого суждения и контекстного понимания.

Всё это подводит к этическому вопросу, который пока не имеет однозначного ответа: должна ли нейросеть зеркально отражать существующее общество со всеми его перекосами или призвана формировать более сбалансированные и справедливые образы. От решения этой дилеммы зависит, какие представления о профессиях, ролях и возможностях будут транслироваться миллионам пользователей через сгенерированный контент.

Данный материал подготовлен с помощью искусственного интеллекта. Если вам интересно разобраться в том, как нейросети работают с данными и какие предвзятости могут возникать при их обучении, попробуйте изучить эту тему на сайте AiGENDA — там можно самостоятельно протестировать различные модели, проанализировать их ответы и лучше понять, как устроен современный ИИ.

Комментариев нет

Добавить комментарий

Иммиграционная служба США закупила G.L.O.V.E. тактические перчатки без ожогов

Средства тактические G.L.O.V.E. применяются в операциях иммиграционной службы США для немедленного подавления сопротивления без ожоговых следов на коже. Перчатки генерируют электрический разряд…

Картаполов заявил, что Запад сам отдаст Зеленского России, когда тот станет не нужен

Андрей Картаполов, председатель комитета Госдумы по обороне, заявил, что западные страны готовы отстраниться от Владимира Зеленского, когда тот утратит для них практическую…

МК : Зеленоградский Чикатило Юрий Гриценко погиб в СВО под обстрелом, похоронят в ЛНР

«Зеленоградский Чикатило» Юрий Гриценко погиб в зоне СВО. По информации телеграм‑канала Shot, маньяка, на счету которого пять жертв, удалось идентифицировать недавно. Сообщается,…

Банкста : Ахметов купил самые дорогие апартаменты в Монако за $554 млн

Рынок элитной недвижимости Монако сохраняет за собой статус самого дорогого в мире, где за один миллион долларов можно приобрести всего около 16…

Стрелок на террасе в Амстердаме убил человека — задержан

Один человек погиб в результате стрельбы на террасе кафе в северном Амстердаме. Стрелок открыл огонь в заполненном заведении, когда посетители отдыхали на…

РЕН : Иркутская женщина шла переводить деньги — её украл автобусный вор

Иркутская жительница, 37 лет, ответила на звонок, якобы сделанный сотрудником спецслужб, и передала курьеру 6 млн рублей под предлогом «сохранности». Затем она сняла с…

На речных маршрутах Москвы совершили более 4,6 млн поездок с 2023 года

Регулярный речной электротранспорт Москвы продолжает работать зимой. С 2023 года на маршрутах…

пост на 1 мин

Выставка о маркизе де Помпадур откроется в Пушкинском музее 1 декабря

Первая в России выставка о маркизе де Помпадур пройдёт в Пушкинском музее…

пост на 2 мин

Alibaba показала, как Qwen4-Max создаёт игры в Unreal Engine и Unity

Qwen4-Max создаёт игровые сцены, запускает проекты и исправляет ошибки в демонстрациях Alibaba.…

пост на 2 мин

ESA показало астероид Дидим в 25 спектральных диапазонах

Аппарат Hera изучил астероид Дидим видимой камерой, спектрометром и тепловизором с расстояния…

пост на 2 мин

NASA показало ночную грозу над Южно-Китайским морем с МКС

Снимок с МКС объединил вспышки молний, огни Сингапура, рыболовных судов и газовых…

пост на 2 мин

Google Registry откроет домены .eat, .fly и .here в 19:00 МСК

Google Registry 17 ноября в 19:00 МСК откроет обычную регистрацию доменов .eat,…

пост на 1 мин