حالا دلیل این اتفاق چی بوده؟ OpenAI تو گزارش جدیدش درباره مشکل چاپلوسی بیش‌ازحد مدل GPT-4o که باعث شد آپدیت هفته گذشته پس گرفته بشه، توضیح داده که آپدیت مورد بحث با نیت بهبود «شخصیت پیش‌فرض» مدل انجام شده بود. هدف این بوده که تعاملات طبیعی‌تر و مؤثرتر به نظر برسن، ولی مشکل از اونجا شروع شد که طراحی این تغییرات بیش از حد به بازخوردهای کوتاه‌مدت کاربرا متکی بوده و به این موضوع توجه نکرده که سبک تعامل کاربرا در طول زمان تغییر می‌کنه. همین باعث شد که مدل به سمت جواب‌هایی بیش‌ازحد تأییدکننده و غیرصادقانه کشیده بشه.

‏OpenAI تو پست وبلاگش نوشته که این نوع پاسخ‌های چاپلوسانه می‌تونه تجربه‌ای آزاردهنده و ناخوشایند برای کاربرا بسازه. حالا تیم توسعه داره چند اصلاح اساسی انجام می‌ده: به‌روزرسانی روش‌های آموزش مدل، بازنویسی دستورهای سیستمی برای جلوگیری از چاپلوسی، و افزایش ابزارهای ایمنی برای بالا بردن صداقت و شفافیت پاسخ‌ها. علاوه بر این، OpenAI گفته که در حال آزمایش روش‌هایی برای گرفتن بازخورد لحظه‌ای از کاربرا و اضافه کردن گزینه‌هایی برای انتخاب شخصیت‌های مختلف چت‌جی‌پی‌تیه. هدف نهایی اینه که مدل، بهتر با ارزش‌های فرهنگی متنوع سازگار بشه و کنترل بیشتری به دست کاربرا بده.

@aipulse24