یه سؤال جالب پشت این پروژه بوده:
اگر LLMها سال‌هاست در Chat کردن از انسان بهتر شدن، چرا هنوز بخش بزرگی از Automation رو نتونستیم بهشون بسپاریم؟اینا میگن مشکل اینجاست که LLMها اساساً برای تولید متن طراحی شدن، نه تصمیم‌گیری ساختاریافته برای Software. برای همین یک کلاس جدید از مدل‌ها به اسم System One Models ساختن مدل‌هایی که به‌جای اینکه متن تولید کنن، مستقیماً Typed Probabilistic Decisions برمی‌گردونن.
مدل اولشون Jev هست. ایده‌ی اصلیش رو میشه این‌طوری دید که به‌جای اینکه مدل یک جواب متنی بده و بعد Software مجبور بشه اون رو Parse کنه، مستقیماً یک خروجی ساختار یافته می‌گیره که قابل استفاده در کد هست.
از نظر معماری هم فقط یک مدل جدید نیست یک Stack کامل برای Automation ساختن که مدل به‌جای صرفاً تولید پاسخ، روی Decision Quality و Calibration آموزش ببینه.
یکی از ادعاهای مهم Jev اینه که در بعضی System One Tasks تقریباً به سطح عملکرد مدل‌های LLM خفن موجود می‌رسه، اما خیلی سریع‌تر و با کارایی بالاتر اجرا میشه. مدل Jev اصلاً تولید متن انجام نمیده برای همین بخش بزرگی از هزینه‌ی معمول Token Generation حذف میشه.
یک نکته‌ی فنی جالب دیگه هم Cardinality هست، Jev می‌تونه تا 255 انتخاب رو مدیریت کنه. برای تعداد انتخاب‌های بالا، سیستم از یک Two-Stage Decision Process استفاده می‌کنه:
ابتدا گزینه‌ها به‌صورت مستقل امتیازدهی میشن و بعد مدل یک انتخاب نهایی انجام میده به همین دلیل در بعضی موارد Latency کمی افزایش پیدا می‌کنه.
@silicon_brain | از هوش مصنوعی عقب نمانید