معرفی ابزار Msty — تجربه‌ای متفاوت برای کار با LLMهای لوکال .بخش اول

معرفی ابزار Msty — تجربه‌ای متفاوت برای کار با LLMهای لوکال

اگر با ابزارهایی مثل Ollama کار کرده باشید، احتمالاً می‌دانید که اجرای مدل‌های زبانی به‌صورت لوکال دیگر مثل گذشته پیچیده نیست. اینکه با وجود اینهمه مدلهای آنلاین چرا نیاز به استفاده آفلاین از مدلها داریم ممکن است به دلایل زیر باشد:
1- عدم دسترسی دائمی به اینترنت
2- حجم بالای استفاده از مدل ها (مدلهای رایگان معمولا تعداد کمی درخواست را در روز پردازش می کنند)
3- امنیت اطلاعات یا داده های شخصی، خیلی از اوقات امنیت مطالبی که می خواهیم بررسی کنیم بسیار بالاست و نمی خواهم در اینترنت پخش شود.
4- افزایش دانش مدل در یک حوزه خاص (با Fine Tunning یا RAG و...)
5- توسعه پلت فرم شخصی

ابزارهای مختلفی برای استفاده آفلاین مدلهای LLM وجود دارد که برخی از معروف ترین آنها عبارتند از :
Ollama , LmStudio , Pinokio , MSTY , ...

ادامه در پست بعد ...

#AI
#LLM
#LocalAI
#Python

پایتون برای مالی

🆔 t.me/python4finance
🆔 ble.ir/python4finance