کلمه روز: sycophancy
یعنی چی؟ در زبان خودمون میشه پاچهخواری زیادی برای حس خوب دادن به طرف مقابل
چرا این کلمه؟ در مدلهای زبانی، بخصوص اونهایی که به صورت لوکال روی سیستم خودمون اجرا میشن، هرچی مدل کوچکتر باشه احتمال اینکه اینکار رو بکنه، بعلاوه اینکه با اعتماد بنفس بیشتری توهم (Hallucinate) بزنه بیشتر میشه. در مدلهای قدیمیتر این مورد رو بیشتر میدیدیم. از یجایی به بعد، برای مثال GPT5 بود اگر اشتباه نکنم که این موضوع خیلی توش به چشم اومد، اومدن و بهبودش دادن تا مدل بتونه بهتر تشخیص بده چی رو نمیدونه و بیانش کنه.
زمانی که GPT5 اومد تو بازار حتی به یه ترند تبدیل شد که میگفتن خیلی خشکتر شده و پاسخهای قاطع و کوتاهتر میده.
اما نکتهی دیگهای که به چشمم اومد، تشابه این موضوع با آدمهاست. هرچه توانایی منطق و استدلال بالاتری داشته باشیم، برامون راحتتره که اعتراف کنیم که نمیدونیم، و از کارهای بیهوده دوری میکنیم. گرچه بیشتر میشه این بحث رو فلسفی کرد، خواستم که خوراک تفکرات قبل خواب، و یا تو حمومیتون باشه.
@ever_code
Post #195
314
- ❤ 3
- 👍 1