Предвзятость ИИ
KI Bias в генерации изображений

Важный аспект работы с ИИ - осознание того, что он может выдавать искаженные данные, предпочитая какой-то Х какому-то У. Эта пристрастность (KI Bias / KI-Verzerrung) связана с особенностями обучения на ограниченных массивах данных.

Давайте посмотрим на примере генерации картинок, что предпочитает ИИ в разных аспектах!

🔸 возраст
В целом ИИ молодых людей предпочитает возрастным, но, например, для изображения узкопрофильных специалистов, по мнению ИИ, больше подходят умудренные опытом мужчины с глубокими морщинами.

🔸 внешний вид
Женщины изображаются преувеличенно сексуально, с модельной внешностью, на их лицах не бывает морщин.
Отмечается склонность к официальному стилю: люди обычно в официальных костюмах, без татуировок и других особенностей внешности.
По умолчанию ИИ изобразит человека европейской внешности.

🔸 среда обитания
По умолчанию ИИ выбирает городской задний фон (хотя в городах живёт чуть больше половины населения Земли)

🔸 время действия
ИИ склонен к изображению более старинных/устаревших условий работы профессионалов, например, писатель скорее всего будет сидеть за печатной машинкой или даже с пером, а не за компьютером.

Есть немало научных экспериментов, иллюстрирующих эти KI Bias, например, вот исследование того, как изображаются журналисты (долистайте до картинок в разделе Findings).