Собрал ИИ-шные факапы вокруг HR-теха, старые и свежие

Подумать только: еще каких-то 5 лет назад кто-то запаривался на такие темы. Сейчас-то сплошные восторги и минимум консёрнов, ю ноу. Ну разве что, может быть, феминистки против чего-то, но я свежего не нашёл.

🔵Boardy: AI-комментарии о внешности женщин

Платформа Boardy, использующая ИИ для профессионального нетворка, запустила кампанию, в рамках которой пользователи получали электронные письма с отзывами о своих фотографиях, написанными в стиле Донни Трампа.
Женщины получали комментарии о своей внешности, такие как "великолепная улыбка" и "идеально оформленные брови", в то время как мужчинам делали замечания о профессионализме и лидерских качествах. Кампания вызвала волну критики за сексизм и неуместность, особенно учитывая, что 91% женщин на LinkedIn уже сталкивались с неподобающими сообщениями (мы-то знаем, что для некоторых альтернативно-одарённых Линк — дейтинг-площадка намбер ван). После общественного резонанса CEO компании извинился, признав ошибку.

🔵HireVue: использование ИИ для оценки кандидатов

Компания HireVue, предоставляющая услуги видеособеседований с использованием ИИ, столкнулась с критикой за анализ "микро-выражений" лиц кандидатов. Многие кандидаты и исследователи выразили обеспокоенность по поводу потенциальной предвзятости и недостоверности таких оценок. В ответ на критику компания в 2020 году удалила функцию анализа лиц, признав, что, несмотря на отсутствие доказанной предвзятости, сохранение этой функции "не стоит беспокойства".

🔵Amazon: ИИ-инструмент с гендерной предвзятостью

В 2018 году Amazon была вынуждена отказаться от своего ИИ-инструмента для найма, после того как выяснилось, что система проявляет предвзятость в отношении женщин. Инструмент был обучен на резюме, преимущественно поданных мужчинами, что привело к снижению оценки резюме женщин (ну потому что женщина как минимум не мужчина, минус балл!)

🔵Artisan: билборды с лозунгом "Перестаньте нанимать людей"

Это свеженькая кринжатина. Стартап Artisan разместил в Сан-Франциско билборды с лозунгом "Перестаньте нанимать людей", рекламируя своих ИИ-сотрудников как более дешёвую и эффективную альтернативу. Кампания вызвала негативную реакцию среди людей (😀) и была названа "дистопической" и "оскорбительной" по отношению к работникам, особенно в условиях массовых увольнений в техе. Но хайпанули знатно, только ленивый об этом не написал.

Правозащитники считают, что ИИ берёт угнетающие паттерны из общества и без палева выкручивает на максимум, подсвечивая проблемы. Я ко мнению правозащитников обычно отношусь настороженно, но тут склонен согласиться, ведь эта штука обучается на мире людей. И то, что мы выравниваем моралью и эмпатией эта штука лупит как есть, без дисконта.