ИИ-алгоритмы не нейтральны, они воспроизводят закономерности, в том числе гендерные стереотипы, заложенные в данных для их обучения

Явление, когда модель ассоциирует определенные роли, качества или действия с конкретным полом, называется гендерный bias («смещение», англ.). Проблема гендерной предвзятости алгоритмов провоцирует не только некорректные ответы в выдаче — она создает бреши в системах киберзащиты.

Алгоритмы, обучавшиеся на преимущественно «мужских» выборках прошлых лет, могут пропустить атаки, адаптированные под «нестандартное» поведение и парализовать работу систем безопасности ложными срабатываниями на действия добросовестных сотрудниц, рассказала бизнес-партнер по кибербезопасности Cloud.ru Юлия Липатникова.

🫡 — у киберугроз нет пола, пора учить этому алгоритмы
🗿 — пока ИИ верит стереотипам, у хакеров есть отличная лазейка