این چند روز مدل Jev با ادعای نزدیک ۲۰۰ برابر سرعت بیشتر و بیش از ۴۰۰ برابر هزینه کمتر در بعضی کارها سروصدا کرده. پشت این ادعا یک سوال ساده هست. وقتی نرم‌افزار فقط به یک تصمیم نیاز داره، چرا AI باید برای اون متن تولید کنه؟
شرکت TypeSafe AI روز ۱۵ سپتامبر این مدل رو معرفی کرد. یکی از هم‌بنیان‌گذارهاش، دیوگو آلمیدا، قبلا در OpenAI روی پژوهش پشت ChatGPT کار کرده. البته اعداد بالا از تست‌های داخلی سازنده اومدن و به معنی برتری در همه کارها نیستن. خود شرکت هم می‌گه این‌ها نزدیک سقف بهبود احتمالی در کاربردهای واقعی هستن.
🔹 دقیقا چه کاری انجام می‌ده؟
ورودی Jev همچنان اطلاعات متنی هست، اما خودش متن تولید نمی‌کنه. خروجی اون سه شکل داره: انتخاب از بین گزینه‌های مشخص، امتیاز و احتمال درست‌بودن یک گزاره.
مثلا مشتری نوشته «دوبار از حسابم کم شده، پولم رو برگردونید». می‌شه از Jev خواست هم‌زمان تیم مناسب رو انتخاب کنه، فوریت رو امتیاز بده و احتمال درخواست بازپرداخت رو مشخص کنه. بعد نرم‌افزار طبق قواعد خودش اقدام می‌کنه یا موارد مبهم رو به انسان می‌سپره.
از همین قابلیت می‌شه برای دسته‌بندی پیام‌ها، اولویت‌بندی درخواست‌ها، انتخاب ابزار بعدی یک Agent و بررسی خروجی مدل‌های دیگه استفاده کرد.
🔹 چرا سریع‌تر و ارزان‌تره؟
مدل‌های زبانی مولد معمولا خروجی رو توکن‌به‌توکن می‌سازن. Jev این مرحله رو کنار گذاشته و سوال‌های مستقل رو موازی جواب می‌ده. زمان پاسخ اعلام‌شده ۷۰ تا ۵۰۰ میلی‌ثانیه هست و هزینه هر میلیون توکن ورودی فقط ۴٫۲ سنت آمریکا. خروجی هم هزینه جدا نداره.سازنده اسم این خانواده رو System One گذاشته، با الهام از تصمیم‌گیری سریع و شهودی. تمرکزش روی قضاوت‌های کوچک و مشخص هست که داخل یک نرم‌افزار بارها تکرار می‌شن.
🔹 پس داریم از LLMها عبور می‌کنیم؟
هنوز برای این نتیجه‌گیری زوده. طبق مستندات، نقطه شروع همچنان مدل‌های زبانی ازپیش‌آموزش‌دیده هست. تفاوت مهم، آموزش تکمیلی با روش RLCD هست که روی تصمیم‌گیری و احتمال‌های قابل‌اتکاتر تمرکز می‌کنه. مثلا هدف اینه که اتفاق‌هایی با احتمال پیش‌بینی‌شده ۸۰ درصد، واقعا در حدود ۸۰ درصد موارد رخ بدن.
بنابراین ماجرا فراتر از یک Workflow ساده هست، ولی Jev برای جایگزینی عمومی مدل‌های تولید متن، کدنویسی و استدلال پیچیده ساخته نشده. حتی ادعای «توهم صفر» هم به قالب و گزینه‌های مجاز خروجی مربوطه. مدل همچنان می‌تونه گزینه اشتباه رو انتخاب کنه!
به نظرم کاربرد جذابش برای استارتاپ‌ها، ترکیب این مدل‌هاست. نوشتن و استدلال پیچیده رو به LLM بسپریم و تصمیم‌های کوچک و پرتکرار رو به مدلی مثل Jev. اگر روی داده‌های واقعی کسب‌وکار هم دقت کافی داشته باشه، کاهش هزینه و تاخیر می‌تونه اتوماسیون‌هایی رو اقتصادی کنه که تا دیروز ساختنشون نمی‌صرفید.
🎥 ویدئوی آشنایی با Jev در ۷ دقیقه
@investingfund