Было обнаружено, что большие языковые модели (LLM) неизменно ассоциируют женщин с «домом», «семьей» и «детьми», а мужчин — с «бизнесом», «руководящими должностями», «зарплатой» и «карьерой».

При выполнении задания по дополнению предложений, начинающихся с указания пола человека, около 20% ответов LLM содержали сексистские и женоненавистнические высказывания, в том числе изображения женщин как сексуальных объектов и собственности их мужей. Это предсказуемый результат работы систем искусственного интеллекта, обученных на данных, в которых женщины и мужчины представлены в неравных пропорциях на протяжении десятилетий.

Предвзятость ИИ — это проблема не только проектирования систем, но и государственной политики. Из 138 проанализированных стран только 24 упомянули гендерную проблематику в национальных стратегиях развития ИИ, что может привести к тому, что неравенство будет заложено в будущие системы.

Источник: ООН-женщины