توی رویدادی که اخیراً درباره Sovereign AI برگزار شد، بحث اصلی این بود که چرا شرکت‌ها دارند از اجاره کردن API مدل‌های بسته فاصله می‌گیرند و به سمت ساخت استک بومی خودشون میروند.

چرا خیلی از تیم‌ها به این سمت حرکت می‌کنند؟
یک. هزینه: در مقیاس بالا، هزینه‌های API مدل‌های بسته سرسام‌آور میشه.
دو. سرعت: برای کارهای تخصصی مثل کدنویسی یا امنیت، مدل‌های کوچک‌تر و تقطیرشده به‌خاطر تاخیر کمتر خیلی بهتر عمل می‌کنند.
سه. کیفیت: الان مدل‌های وزن‌بازی مثل Kimi K3 یا GLM-52 به سطحی رسیدن که با Post-training روی داده‌های تخصصی خودتون، می‌تونن حتی از مدل‌های فرانتیر هم توی دامین شما بهتر جواب بدن.
چهار. کنترل روی محصول: شعار جالبشون این بود که اگه مالکیتی روی وزن‌های مدل ندارید، عملاً مالک واقعی محصولتون هم نیستید.

معماری این استک هم معمولاً چند بخش اصلی داره:
- انتخاب یک مدل پایه وزن‌باز
- انجام Post-training روی داده‌های تخصصی و سنتی
- تنظیم Harness و سیستم‌های ارزیابی (Evals)
- مدیریت Context و حافظه (مثل Vector DB یا MCP)
- پیاده‌سازی یادگیری آنلاین (Online Learning) تا مدل با هر تعامل کاربر بهتر بشه
Youtube: https://youtu.be/bMMv0bZzONg?is=1GQt0FEbSO09Ljet

@DevTwitter | <Mehdi Allahyari/>