پشت صحنه سریال برت!

چند وقتی هست که رگباری داره مدل های عجیب و غریب مبتنی بر برت میاد که کارای خفنی می‌کنند. اما این دوستانمون یه لحظه ترمز رو کشیدند و گفتند بیایم ببینیم داخل برت و لایه‌هاش چه خبره. این کار رو برای تسک QA انجام دادند و اومدند این تسک رو بر مبنای مشاهدات به ۴ فاز تقسیم کردند و ادعا می‌کنند ۱۲ لایه‌ی مدل مبتنی بر برت برای انجام این تسک، این چهار فاز رو به صورت ترتیبی دارند:
۱. خوشه بندی معنایی کلمات
۲. اتصال اسامی خاص به یکدیگر با توجه به ویژگی‌های آن‌ها
۳. هماهنگی سوالات با حقایق مرتبط با آن‌ها
۴. استخراج جواب

نکته جالب‌ناک این مقاله اینه که یه دموی آنلاین هم آماده شده که می‌تونید خودتون باهاش بازی کنید و حقایق جالبی رو کشف کنید. این دوستان سورس‌کد این سامانه رو هم گذاشتند برای اینکه تسک های دیگه رو هم بهش اضافه کنید. پس اگر علاقه‌مند به تفسیرپذیری مدل‌ها و برتولوژی هستید، بشتابید.

لینک دمو:
https://visbert.demo.datexis.com

لینک مقاله:
https://arxiv.org/pdf/2011.04507.pdf

پ.ن.۱. این تیپ کارها کم کم داره خیلی برجسته میشه. نظیرش رو هم دوست و برادر عزیزمون جناب العمار خیلی انجام میده (مثل این پست https://t.me/nlp_stuff/126).

پ.ن.۲. در معرفی کانال به بقیه کوشا باشید!

#paper
#read
#link

@nlp_stuff