تعصب خطرناک: هوش مصنوعی در استخدام بیش از انسان سوگیری دارد.

استفاده از مدل‌های زبانی بزرگ برای غربالگری اولیه متقاضیان شغلی، چالش‌های اخلاقی جدیدی را ایجاد کرده است. پژوهشگران دانشگاه‌های پرینستون و شیکاگو در آزمایشی شبیه‌سازی‌شده دریافتند که هوش‌مصنوعی نه تنها سوگیری‌های انسانی را یاد می‌گیرد، بلکه بر اساس تجربیات خود، کلیشه‌های جدید و قوی‌تری نسبت به انسان‌ها می‌سازد.
نتایج این مطالعه نشان می‌دهد مدل‌های هوشمندتر مانند o3 از اوپنای‌آی و R1 از دی‌پ‌سیک در مقایسه با مدل‌های ساده‌تر، تعصب بیشتری از خود نشان می‌دهند. در واقع هرچه توانایی استدلال یک مدل افزایش می‌یابد، تمایل آن به دسته‌بندی افراد بر اساس گروه‌های قومی و هدایت آن‌ها به مشاغل خاص بیشتر می‌شود. این پدیده که ۶۵ درصد بدتر از میانگین رفتار انسان‌هاست، زنگ خطری برای توسعه‌دهندگان محسوب می‌شود.
#هوش_مصنوعی
ai.mazums.ac.ir
@Mazumsaibot
@Artificial_Intelligence_Center