🏠🤖 مدل زبانی بزرگ محلی خودتان را راه‌اندازی کنید (مناسب برای مدل‌اولّی ها🫪)

🔥مدل‌های زبانی بزرگ جذاب‌اند، اما اجرای یک مدل محلی روی سیستم خودتان حس و حال دیگری دارد
نه خبری از ابر است، نه کلید API، نه هیچ محدودیتی.

🧩 مرحله ۱: نصب اُلاما (Ollama)
اُلاما را روی سیستم‌تان نصب کنید (در مک، ویندوز و لینوکس کار می‌کند).

بعد از نصب، ترمینال را باز کنید.

🚀 مرحله ۲: اجرای یک مدل

ollama run llama3.2

⚠️این دستور کارهای زیر را انجام می‌دهد:
• مدل را دانلود می‌کند
• آن را به‌صورت محلی راه‌اندازی می‌کند
• اجازه می‌دهد بلافاصله گفت‌وگو کنید 💬

❌اگر پرامپت (خط فرمان) را دیدید، یعنی مدل زبانی محلی‌تان در حال اجراست.

⚙️ مرحله ۳: استنتاج محلی به سبک API
اولاما یک سرور محلی روی سیستم شما اجرا می‌کند.

curl http://127.0.0.1:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.2",
    "prompt": "Explain overfitting like I am 12",
    "stream": false
  }'

❌اگر پاسخ JSON‌ای همراه با متن دریافت کردید → ✅ یعنی کار می‌کند.

چرا این روش فوق‌العاده است ⁉️
°شخصا امتحان شده و کار کرده
°بدون نیاز به اینترنت کار می‌کند
°به‌صورت پیش‌فرض کاملاً خصوصی است
°برای یادگیری، تست کردن و اپلیکیشن‌های کوچک عالی است

این شاید ساده‌ترین راه برای شروع کار با مدل‌های زبانی بزرگ به‌صورت محلی است.
#LLMs
#AI
@toobabigdatascience