اگه دوست دارید مدلهای open source بزرگ زبانی رو تو سیستم محلیتون ران کنید (مثلا gemma گوگل) می‌تونید از این پروژه استفاده کنید:
https://lmstudio.ai/

رابط کاربری نسبتا خوبی داره و نصبش هم نسبتا آسونه. فقط نیاز به سخت‌افزار خوب مخصوصا رم زیاد دارید که کرش نکنه. حجم مدلها هم حدود ۲ تا ۶ گیگه که باید هر کدوم خواستید رو دانلود کنید.