🤖 ИИ, кажется, тоже умеет выбирать, с кем быть повежливее

Нам долго рассказывали, что искусственный интеллект — беспристрастный помощник, которому чужды человеческие предубеждения. Похоже, с беспристрастностью все немного сложнее. Даже вежливость у ИИ оказалась не совсем универсальной функцией.
Исследователи NYU Langone Health проанализировали около 12,2 тыс. переписок пациентов из трех клиник Нью-Йорка. Они сравнили сообщения пациентов, черновики ответов GPT-4 и финальные версии, которые отправляли медицинские работники.

Выяснилось, что GPT-4 формулировал ответы немного по-разному в зависимости от характеристик пациента.

Для латиноамериканцев черновики примерно на 3% реже содержали вежливые формулировки и позитивно окрашенную лексику. А если пациент предпочитал общаться не на английском, вероятность встретить позитивные выражения была примерно на 10% ниже.
Меньше позитивной лексики также обнаружили в ответах женщинам, молодым пациентам и жителям районов с более низкими доходами.

📌 Нет, нейросеть не просыпается утром с мыслью: «Сегодня будем менее приветливы с латиноамериканцами». Исследователи не говорят о намеренной дискриминации. Речь идет о статистических различиях в языке, которые могут быть связаны с особенностями данных и алгоритмов.
Но для медицины вывод довольно серьезный.

ИИ может отлично написать ответ, расставить запятые и даже придать тексту солидный медицинский вид. А вот с тем, насколько этот ответ одинаково доброжелателен для разных пациентов, все оказалось не так идеально. 😏

блИИстерная. Подписаться