Чат-боты с ИИ — настоящие сексисты.

Хотя, по словам учёных из Университета Джонса Хопкинса (США), языковые модели стали такими из-за людей.

Исследователи протестировали GPT-4, Llama, Gemma и Mistral на предвзятость. Они взяли реальные рабочие запросы из корпуса WildChat и создали пары стереотипно женских и мужских формулировок. К первым относятся вводные слова вроде «наверное», местоимения «мы» и приукрашивания.

В итоге деловые тексты по «женским» промптам оказались проще и хуже читались. Так было со всеми ИИ-моделями и типами документов.

Учёные уточняют, что ИИ стал предвзят из-за речевых паттернов, которые существуют в реальной жизни.

#Наука_Ножа в Max