مشکلی که این روزها خیلیها باهاش دست به گریبان بودن، عدم دسترسی به ChatGPT و Gemini و در کل LLM ها بود.
بهتره اگر سیستم با مشخصات سختافزاری به نسبت خوبی دارید، برید به سایت ollama.com و نصبش کنید، بعد یکی از مدلهای دلخواهتون رو دانلود کنید و به Ollama اضافه کنید.
مدلهای پیشنهادی:
Llama 4
Qwen 3
Mistral
DeepSeek-R1 (برای reasoning)
از اون جایی که Ollama به صورت لوکال محیطش خیلی ساده و متنی مثل cmd هستش، نیاز به یک محیط با UI مناسب داریم.
برای این کار Chatbox رو از chatboxai.app
دانلود کنید و مدلی که قبلا گرفتید رو بهش اضافه کنید. حتی میتونید از همین سرویسهایی که آنلاین دسترسی دارید، مثل ChatGPT و Gemini با API در Chatbox استفاده کنید.
برای اینکه Chatbox بتونه با مدلهای لوکال کار کنه، Ollama باید در بکگراند در حال اجرا باشه.
به زبان ساده:
Ollama = موتور اجرای مدلها (server)
Chatbox = رابط چت (client)
وقتی Ollama ران باشه:
روی localhost:11434 به شما API میده و Chatbox بهش وصل میشه و مدل رو صدا میزنه.
به امید روزهای بهتر
📱@Python4all_pro
Post #2340
3.88K
- ❤ 5