مدل Sol برای کارهای پیچیده‌تر مثل Coding و Agentهای طولانی‌مدت طراحی شده و Luna بیشتر برای کارهای پرتعداد مثل Summarization مناسبه. قیمت API هر دو مدل نسبت به نسل قبلی تقریباً ۵۰٪ کمتر شده. مدل Sol حدود $2/$10 و Luna حدود $0.10/$0.50 به ازای هر ۱ میلیون Input/Output Token هزینه داره.
نکته مهم‌تر از خود مدل‌ها، اقتصاد Agentهاست. وقتی هزینه مدل و Caching پایین بیاد، میشه به Agent اجازه داد مدت بیشتری کار کنه، Context بیشتری پردازش کنه و مراحل بیشتری رو امتحان کنه، بدون اینکه هزینه API سریعاً بالا بره.
از نظر عملکرد هم OpenAI میگه Sol در Coding و کارهای چندمرحله‌ای عملکرد بالایی داره و در بعضی تست‌ها با هزینه بسیار کمتر به مدل‌های رقیب نزدیک شده. Luna هم نسبت به نسل قبلی هم دقت بیشتری داره و هم هزینه اجرای هر Task رو کاهش میده.
در واقع مسیر جدید اینه که دیگه برای هر کاری از قوی‌ترین و گران‌ترین مدل استفاده نکنیم بلکه Model رو بر اساس سختی Task انتخاب کنیم. برای مثال یک Agent می‌تونه کارهای ساده و پرتعداد رو با Luna انجام بده و فقط برای بخش‌های پیچیده‌تر سراغ Sol یا مدل‌های قدرتمندتر بره.
البته این نتایج عمدتاً بر اساس Benchmarkهای خود OpenAI هستن و عملکرد واقعی می‌تونه بسته به نوع Workload متفاوت باشه.
@silicon_brain | از هوش مصنوعی عقب نمانید