چطوری یه LLM روی لپ‌تاپت اجرا کنی؟

💻 تکنولوژی ریویو میگه الان مدل‌های هوش مصنوعی اون‌قدر سبک شدن که دیگه نیازی به سرور ندارن، روی لپ‌تاپ خودتم می‌تونی اجراشون کنی

با نرم‌افزارهایی مثل Ollamaیا LM Studio ، می‌تونی مدل‌ها رو از Hugging Face انتخاب و روی سیستم خودت چت کنی

🎛 هر مدل ۱ میلیارد پارامتری، حدود ۱ گیگ RAM نیاز داره. یعنی با ۱۶ گیگ رم و بدون اجرای برنامه‌های دیگه، می‌تونی مدل‌های ۱۴B هم اجرا کنی

How to Run an LLM on Your Laptop: MIT Technology Review explains that thanks to model miniaturization and smarter tools, you can now run powerful large language models—like Qwen or Llama—directly on your laptop, no cloud needed

Apps like Ollama (CLI-based) and LM Studio (GUI-based) let you pick, download, and chat with local models easily

running a billion-parameter model needs about 1 GB of RAM—so a 16 GB laptop could handle a 14B model if nothing else is running

https://www.technologyreview.com/2025/07/17/1120391/how-to-run-an-llm-on-your-laptop/

📰 @scopeofai | #news