مصورسازی نحوه انتخاب کلمه توسط ترنسفورمر

آقای العمار در این قسمت با ویژوالایز کردن حالت‌های نهان داخل ترنسفورمر نشون می‌ده که فرآیند انتخاب یک کلمه در ترنسفورمر، لایه به لایه چه شکلیه و چطور رتبه کلمه نهایی بین بقیه کلمات در مسیر لایه‌ها کاهش پیدا می‌کنه. به قول خودش می‌خواد فرآیند فکری ترنسفورمرها را بررسی کنه. یکی دو تا نوت‌بوک هم برامون گذشته اگر حوصله داشتیم باهاش ور بریم.
انصافا توضیحات و ویژوالایزهایی که تو این قسمت کرده خیلی جذابن! اگر گیر درس و امتحان نیستید، از دستشون ندید.
قبلا هم از این یکی داداشمون پست (https://t.me/nlp_stuff/106) گذاشتیم.

https://jalammar.github.io/hidden-states/

پ.ن. برای دوستاتون که به NLP یا ویژوالیزیشن علاقه‌مندند بفرستید که کیف کنند.

#read
#blog

@nlp_stuff