Notion AI и налог на розовое

Пару дней назад тестировала Notion AI для работы с текстом и ужаснулась gender bias 😒😈. Gender bias - это систематическое искажение, неравенство полов в автоматизированных штуках. Мне была нужна короткая биография. За основу взяла свое классное cover letter: в тексте много про управление командами, техническое образование, лидерство и опыт в нескольких индустриях. Notion отлично справился с сокращением и написал сильный текст про мужчину. Ок, не проблема! Добавила "+women", но вместо местоимений Notion AI поменял вообще весь смысл. Получилось:

“Я являюсь женщиной-продуктовым менеджером с активным участием в различных проектах в области финтеха. Я всегда стараюсь активно вовлекаться в работу и вносить свой вклад в команду.”

Исходник начинался вот так (и был заметно длиннее):

“I am a passionate product executive and a certified FRM managing teams in finance, product dev and AI. With 8 years of experience in product management, process design and automation, and 5 years working with data, I enjoy scaling ideas from scratch.”

Вносить свой вклад вместо руководить и создавать равные возможности. Активное участие вместо создания и лидерства. Огонь 🤢🤮

Notion AI работает на GPT-3 и должен помогать экономить время на рутинных задачах. Но одинаково ли удобно использовать его разным людям? Или pink tax автоматически включен даже в технологичные штуки?

Опубликованная в 2021 году Gender and Representation Bias in GPT-3 Generated Stories показывает, что GPT-3 проявляет gender bias, когда пишет художественные рассказы. При выборе темы, описаний персонажей и гендерных ролей. Политика для мужчин, семья для женщин.

Gender bias отмечен как одна из серьезных проблем ИИ в прошлогоднем отчете Стэнфорда. Хотя в моделях ситуация постепенно улучшается. Chat GPT от OpenAI работает по умолчанию на GPT-3.5, дообученной версии GPT-3. В результате у Chat GPT больше параметров и меньше предвзятости. Я попробовала закинуть аналогичный промт в Chat GPT - и он справился просто поменять местоимения 😇

Жду, когда снимут ограничение на количество запросов в GPT-4. GPT-4 дополнительно тестировали, чтобы найти и убрать предвзятость. По сравнению с предыдущими версиями прогресс обещают крутой.

#gender #ai