Исследователи проанализировали видеоролики, сгенерированные нейросетями, и обнаружили устойчивый гендерный перекос: в 70% случаев высокооплачиваемые профессии — директора, разработчики, врачи — ИИ присваивал мужчинам, тогда как кассиры, сиделки, учителя и посудомойщики оказались исключительно женскими ролями. По мнению специалистов, нейросеть не изобретает стереотипы, а воспроизводит те, что заложены в обучающих данных, то есть отражает реальное положение дел в обществе. Подробности исследования опубликованы в Telegram-канале Mash Money, который рассказал о результатах анализа.
По словам исследователей в области машинного обучения, подобные искажения возникают из-за того, что нейросети обучаются на массивах данных, собранных из интернета, где исторически сложившиеся гендерные роли представлены неравномерно. Если в открытых источниках врачи и руководители чаще мужчины, а кассиры и няни — женщины, алгоритм запоминает эту закономерность и воспроизводит её без критической оценки. Проблема усугубляется тем, что сгенерированный контент затем снова попадает в интернет и может использоваться для обучения следующих поколений моделей, закрепляя предвзятость по принципу замкнутого цикла.
Это не единственная ситуация, когда ИИ демонстрирует ограниченность. Ранее Microsoft провела эксперимент, в рамках которого нейросеть выполняла типовые рабочие задачи для 52 профессий — от составления отчётов до анализа документов. Доля ошибок составила от 25 до 50%, что поставило под сомнение тезис о скорой замене людей искусственным интеллектом. А ряд компаний, которые массово сокращали штат в пользу автоматизации, уже нанимают обратно уволенных сотрудников, признав, что технология пока не справляется с задачами, требующими живого суждения и контекстного понимания.
Всё это подводит к этическому вопросу, который пока не имеет однозначного ответа: должна ли нейросеть зеркально отражать существующее общество со всеми его перекосами или призвана формировать более сбалансированные и справедливые образы. От решения этой дилеммы зависит, какие представления о профессиях, ролях и возможностях будут транслироваться миллионам пользователей через сгенерированный контент.
Данный материал подготовлен с помощью искусственного интеллекта. Если вам интересно разобраться в том, как нейросети работают с данными и какие предвзятости могут возникать при их обучении, попробуйте изучить эту тему на сайте AiGENDA — там можно самостоятельно протестировать различные модели, проанализировать их ответы и лучше понять, как устроен современный ИИ.
