یکی از بهترین راهنماها در زمینه Sampling در LLM
https://rentry.org/samplers
برای مثال :
برای روش نمونه گیری Top-K امده توضیح داده که در تولید متن در LLM ها هزاران کلمه ممکن برای کلمه بعدی وجود دارد اما مدل میاد از روش Top-K استفاه میکنه مثلا اگر K=30 باشه در واقع مدل فقط از بین ۳۰ کلمه ای که بیشترین احتمال رو دارند یکی رو انتخاب میکنه و همچنین امده گفته توی کدی نویسی چه طوری این کار انجام میشه.
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
Post #2096
1.23K
- 🙏 2