یه بازی ساختگی نشون داد AI هم مثل آدم‌ها یاد می‌گیره تبعیض بذاره — فقط سریع‌تر.

محقق‌های Princeton و دانشگاه شیکاگو یه آزمایش جالب انجام دادن: مدل‌های AI (ChatGPT، Claude، Gemini) رو گذاشتن توی یه بازی شبیه‌سازی‌شده‌ی استخدام برای ۲۰ شغل مختلف، با ۴ گروه قومی ساختگی که همه از اول شانس موفقیت برابر داشتن.

بعد از چند دور تصمیم‌گیری، مدل‌ها بدون اینکه کسی صراحتاً بهشون تعصبی یاد بده، شروع کردن به ترجیح دادن بعضی گروه‌ها روی بقیه — دقیقاً مثل رفتاری که قبلاً فقط توی آدم‌ها دیده بودیم.

این خیلی فراتر از بحث استخدامه. هر بیزینسی که داره از AI Agent برای تصمیم‌گیری‌های تکرارشونده استفاده می‌کنه — انتخاب مشتری برای کمپین، اولویت‌بندی لید، حتی قیمت‌گذاری پویا — باید بدونه که این تعصب‌ها می‌تونن از تجربه‌ی خودِ مدل شکل بگیرن، نه فقط از داده‌ی آموزشی.

یعنی تست کردن یک‌بار قبل از لانچ کافی نیست؛ باید مانیتورینگ مداوم داشته باشیم.

شما توی سیستم‌های AI که برای بیزینستون استفاده می‌کنید، مانیتورینگ تعصب رو چطور انجام می‌دید؟ 👇