دنیل کانمن (Daniel Kahneman) توی کتاب معروفش «تفکر، سریع و کند» (Thinking, Fast and Slow) ذهن انسان را به دو بخش تقسیم می‌کنه:
- سیستم ۱ (System 1): تفکر سریع، خودکار، حسی و بدون زحمت؛ مثل تشخیص سریع حالت چهره یا انتخاب مسیر همیشگی.
- سیستم ۲ (System 2): تفکر کند، تحلیلی، متمرکز و نیازمند انرژی محاسباتی؛ مثل حل یک مسئله پیچیده ریاضی.
در دنیای هوش مصنوعی، بیشتر تمرکز ما تا الان روی مدل‌های زبانی بزرگ (LLMها) بوده که بیشتر شبیه به سیستم ۲ عمل می‌کنند؛ متنی تولید می‌کنند، استدلال می‌کنند، اما سنگین، کند و پرهزینه‌اند. ولی برای تصمیم‌گیری‌های لحظه‌ای، مسیریابی درخواست‌ها (Routing) و دسته‌بندی سریع (Classification)، واقعاً نیازی به لود کردن یا فراخوانی یک LLM غول‌پیکر نداریم. یعنی برای این قبیل کارها نیازی به هزینه‌های سنگین بابت GPT و Fable و ... نداریم.
تفاوت مدل‌های System 1 با LLMها چیست؟
- هدف: به جای تولید طولانی متن (Text Generation)، تمرکز روی تصمیم‌گیری آنی، سنجش احتمالات و اکشن‌های سریع است.
- سرعت و منابع: فوق‌العاده سبک و سریع هستند و می‌توانند با کمترین تاخیر (Latency) حتی روی سیستم‌های معمولی و لوکال اجرا شوند.
ورودی این مدل‌ها چگونه‌اند؟ (خیلی ساده)
نیازی به پرامپت‌های پیچیده ندارید؛ ورودی‌ها معمولاً شامل:
۱. یک وضعیت یا متن ورودی (State/Body): مثلاً پیام کاربر.
۲. پرسش و گزینه‌ها (Questions/Choices & Criteria): معیارهای دسته‌بندی یا انتخابی که می‌خواهید مدل بین آن‌ها تصمیم بگیرد.
اما...
این حوزه فقط به یک معماری یا مدل خاص محدود نمی‌شود؛ امروزه خانواده‌ای از مدل‌های سبک و تخصصی تحت عنوان System 1 Models در حال شکل‌گیری هستند که عمدتا در مورد یک مدل از آن‌ها یعنی JEV شنیدیم ولی این سری از مدل‌ها به JEV خلاصه نمی‌شوند ...
معرفی Laya
یکی از گزینه‌های متن‌باز، سریع و کارآمد در این حوزه Laya است که می‌توانید آن را به راحتی برروی سیستم دسکتاپ خود اجرا کنید:
py3 -m pip install laya
pip install "laya[serve]"
py -m laya.serve
من یک نمونه کد ساده با C# / .NET پیاده‌سازی کردم که نحوه ارسال درخواست به سرور لوکال Laya و دریافت خروجی ساختارمند و تصمیم‌گیری آنی را نشون می‌دهد.
🔗 سورس‌کد و راهنمای کامل را می‌تونید در گیت‌هاب من ببینید.
⁉️ برای بحث و تبادل نظر فنی در مورد این پست، نظرات خود را با ما در قسمت کامنت‌ها به اشتراک بگذارید.
#حامد_حاجیلو (لینکدین)
کانال تلگرام:
@SoftwarePhilosophy
______
