یه مدل تصمیم گیر اوپن سورس شبیه به Jev اومده چند وجهیه یعنی عکس و فیلم هم میفهمه، سرعت حل کردن روبیکش رو ببینید:
نکته جالبش اینجاست خودش میفهمه کی نباید سریع جواب بده
فرض کن 100 تا سؤال داری لازم نیست برای هر 100 تا سؤال مدل رو مجبور کنی reasoning سنگین انجام بده. میتونی مثلاً بگی:
اگر System 1 حداقل 70% اطمینان داشت، همون جواب رو بده؛ اگر نه، بفرستش برای System 2.
طبق تستی که خودشون گزارش کردن، با threshold برابر 0.70:
حدود 70% سؤالها سریع جواب داده شدن
این جوابها حدود 0.11 ثانیه طول کشیدن accuracy کلی به 0.892 رسیده
در حالی که اگر فقط System 1 استفاده بشه accuracy برابر 0.792 بوده
و اگر برای همه reasoning انجام بشه 0.917 شده
huggingface.co/autotrust/JEV-27B-VL
@Linuxor
Post #5528
4.68K