У медицинского ИИ обнаружилась склонность к дискриминации

Совсем недавно эксперты обратили внимание на проблемы, связанные с использованием больших языковых моделей в медицине. Оказалось, что эти системы, обученные на исторических данных, всё ещё демонстрируют предвзятость в отношении женщин и представителей некоторых рас. Причины кроются в недостаточном объёме данных, учитывающих разнообразие пациентов.

Исследование от Financial Times подчёркивает, что традиционно медицине уделялось больше внимания белым мужчинам, что создало неравные условия для диагностики и рекомендаций. При этом качество рекомендаций зачастую зависит от формулировок запросов: ошибки в языке могут снизить точность ответов.

Среди основных проблем также выделяется риск утечки персональных данных и нарушения врачебной тайны, что ведёт к юридическим последствиям. Эксперты согласны, что использование ИИ в здравоохранении обещает больше пользы, однако требует более ответственного подхода к обучению и обработке данных, чтобы учесть местные спецификации и предотвратить дискриминацию.

Читать далее

Источник изображения: Nvidia