چتبات blender bot 3 هدیه facebook research به مشتاقان حوزه چتبات!
چند روزی میگذره که تیم تحقیقاتی فیسبوک چتبات open domain خودش رو به صورت عمومی ریلیز کرده و کد و وزن مدلها و یک دمو از این مدل رو در راه خدا نذر کرده! تیم فیسبوک ادعا کرده که این نذر رو در راه اعتلای جامعه تحقیقاتی انجام داده چرا که اینطوری راه تحقیقات در حوزه conversational AI باز میشه. این مدل در واقع یه سیستم عظیم ماژولار هست که از ماژولهای مختلفی مانند Internet search decision، long term memory access decision، generate internet search query و چندین ماژول دیگه تشکیل شده که فلوی اجرایی کل این مدل رو در تصویر زیر میبینید. علاوه بر اینکه در ماژولهایی مثل generate dialogue response از ترنسفورمرها و مدلهای زبانی مبتنی بر اونها استفاده شده، برای انتخاب اجرای هر یک از این ماژولها هم یه ترنسفورمر ترین شده که در لحظه به ازای یه سری ورودی کنترلی تصمیم میگیره کدوم فلو رو در پیش بگیره. البته دموی این مدل فعلا فقط برای مردم ینگه دنیا (آمریکا) در دسترس هست و فیسبوک گفته همزمان از دیتای دمو هم برای بهبود مدل داره استفاده میکنه. از طرفی فیسبوک، مکانیزمهای امنیتی خاصی رو به کار برده برای اینکه خطرات احتمالی ناشی از سرچهای نابهجا مثل محتوای خشونت و غیره به حداقل برسه (در مورد بحثهایی مثل responsible AI هم قبلا صحبت کرده بودیم و باید کم کم خیلی بیشتر بهش توجه بشه). اگه در حوزه conversational AI کار میکنید داکیومنتها و کدهایی که این تیم منتشر کرده رو حتما شخم بزنید، باشد که رستگار شوید.
پ.ن: خداوکیلی ببینید چقدر کار کردند ولی دارند رایگان همه چیز رو در معرض عموم میذارند. با این کار باور کنید همه کامیونیتی از جمله خود تولیدکنندگان حظ و بهره میبرند.
لینک گیتهاب:
https://github.com/facebookresearch/ParlAI/tree/main/projects/bb3
لینک بلاگ:
https://ai.facebook.com/blog/blenderbot-3-a-175b-parameter-publicly-available-chatbot-that-improves-its-skills-and-safety-over-time/?utm_source=twitter&utm_medium=organic_social&utm_campaign=blenderbot
#paper
#read
@nlp_stuff
Post #299
2.95K