خیلی وقت‌ها می‌خوایم یه مدل زبانی بزرگ (LLM) رو روی سیستم خودمون اجرا کنیم، اما تنظیمات سخت‌افزار و پیچیدگی ابزارها وقت‌گیر میشه. اما Lemonade SDK اومده تا این مشکل رو حل کنه و اجرای مدل‌ها رو سریع و ساده کنه 🧠
⚡ چه قابلیت هایی داره؟
اجرای مدل‌های LLM به صورت محلی روی CPU، GPU (با Vulkan/ROCm) و NPU (مثل Ryzen AI)
سازگار با OpenAI API، یعنی راحت میشه توی پروژه‌های پایتون ازش استفاده کرد
پشتیبانی از مدل‌های محبوب مثل Qwen2.5، Phi3.5، ChatGLM3 و فرمت‌هایی مثل ONNX و GGUF
همراه با CLI برای تست و بنچمارک و Web UI سبک برای تجربه چت
اجرای سریع و بهینه روی سخت‌افزار لوکال بدون نیاز به سرور ابری
همچنین آخرین نسخه (v8.1.8 – سپتامبر 2025) با بهبود UI و رفع باگ‌ها منتشر شده
🔗 لینک ریپو Lemonade SDK
📌 مرجع تخصصی هوش مصنوعی و علم داده
🤖 دیتایاد / datayad@