چینیها توی DeepSeek یه روش جدید برای آموزش مدلهای هوش مصنوعی معرفی کردن که بهش میگن "Manifold-Constrained Hyper-Connections" یا mHC. ایدهش اینه که بخشهای مختلف یه مدل بزرگ بتونن اطلاعات مهم رو بین خودشون رد و بدل کنن بدون اینکه مدل ناپایدار یا سنگین بشه. مدلها معمولاً وقتی خیلی بزرگ میشن ناپایدار میشن چون بخشها نمیتونن درست با هم هماهنگ باشن، و چون محاسبات خیلی زیادی لازم دارن سنگین و غیر قابل پیشبینی میشن، اما این روش کمک میکنه هم سریعتر باشه هم دقیقتر.
@Linuxor
Post #3822
8.62K