#словарик

Gender bias

Благодаря книжному клубу читаю "Потерянные слова" Пип Уильямс. В романе героиня работает над словарем в Оксфорде, а еще собирает листочки с разговорными и вульгарными словами на фоне первой волны феминизма. Вдохновилась — вот тематический словарик ❤️

🧠 Gender bias или как настаивал мой редактор гендерная предвзятость — это когда пользовательницы и пользователи получают разный сервис просто из-за своего пола

Ты такая пришла — с цифрами, опытом, презентацией на 100 слайдов и расчетами на 10 лет.
А тебе: “Ой, а давайте подождем руководителя?”

🤓 Я слежу за gender bias в искусственном интеллекте. И не смотря на усилия разработчиков в последние годы, ИИ-сервисы остаются предвзятыми.

Чаще всего это происходит из-за искаженных данных "на входе". Например, сервисы генерации картинок почти не генерируют топ-менеджерок без уточнения промтов. С другой стороны, есть предвзятость разработчиков и тестов, которые ищут bias. Так голосовые помощники чаще говорят женским голосом и воспроизводят подчиненный тон.
А еще на женщинах чуть хуже работает распознавание лиц и фильтрация голоса от шумов.

↗️ В финансах ещё веселее — bias человечества усиливают системы.

Есть статистика по рынку Штатов, что женщины реже получают одобрения кредитов при тех же пераметрах заявки. И кредитные решения стали еще более предвзятыми после автоматизации скоринга — оценки надежности заемщика.

Зато мужчины чаще получают не только кредиты на лучших условиях, но и венчурные инвестиции. В моем любимом FemTech — технологии для женского здоровья — 80% идей придумывают женщины, но получают от силы 30% венчурного финансирования.

И что делать?

⚡️ знать, что gender bias существует, в том числе в медицине, и рассказывать про него

⚡️ если что-нибудь тестируете — приглашайте разных людей и старайтесь сделать выборку сбалансированной

⚡️если нанимаете команду, обратите внимание, нет ли скрытой предвзятости при отборе или скоринге резюме (кроме шуток, мне 5 лет назад не прислали НИ ОДНОЙ разработчицы в папке из 50 резюме)