جدیدا Shopify نشون داده که همیشه بزرگ‌ترین مدل، بهترین انتخاب نیست. این شرکت یک مدل 0.8B رو برای یک تسک تخصصی Fine-tune کرده که در همون تسک از GPT-5.6 Sol بهتر عمل کرده و Throughput رو از حدود ۲ میلیون به ۷۲ میلیون خروجی در روز رسونده.
دلیلش اینه که وقتی Workload مشخص و قابل پیش‌بینی باشه، میشه مدل، پرامپت و Inference رو برای همون Task بهینه کرد.

قسمت فنی جذاب ماجرا، Self-improving Flywheel هست

یعنی Failureهای واقعی کاربران تبدیل به Training Data میشن. یک مدل Frontier می‌تونه درخواست‌های ناموفق رو تحلیل و بهتر کنه و بعد نمونه‌های موفق برای Fine-tuning یک مدل کوچک‌تر استفاده بشن. البته اینجا کیفیت LLM Judge و Evaluation Pipeline مهمه، چون اگر Judge رفتار اشتباه رو درست تشخیص بده، همون اشتباه می‌تونه وارد Training بشه.

در واقع آینده‌ی این حوزه فقط ساختن مدل نیست ساختن یک Feedback Loop بین Production، Evaluation، Training و Deploymentهم هست و Frontier یک مدل هم بیشتر از اینکه Worker نهایی باشن، نقش Teacher رو برای ساخت مدل‌های کوچک‌تر، ارزان‌تر و تخصصی‌تر بازی کنن.

@silicon_brain | از هوش مصنوعی عقب نمانید