مشکلی که توی اون روزهای سیاه خیلیها باهاش دست به گریبان بودن، عدم دسترسی به ChatGPT و Gemini و در کل LLM ها بود.
چه دوباره این روزها تکرار بشه چه نه، بهتره اگر سیستم با مشخصات سختافزاری به نسبت خوبی دارید، برید به سایت ollama.com و نصبش کنید، بعد یکی از مدلهای دلخواهتون رو دانلود کنید و به Ollama اضافه کنید.
مدلهای پیشنهادی:
Llama 4
Qwen 3
Mistral
DeepSeek-R1 (برای reasoning)
از اون جایی که Ollama به صورت لوکال محیطش خیلی ساده و متنی مثل cmd هستش، نیاز به یک محیط با UI مناسب داریم.
برای این کار Chatbox رو از chatboxai.app دانلود کنید و مدلی که قبلا گرفتید رو بهش اضافه کنید. حتی میتونید از همین سرویسهایی که آنلاین دسترسی دارید، مثل ChatGPT و Gemini با API در Chatbox استفاده کنید.
برای اینکه Chatbox بتونه با مدلهای لوکال کار کنه، Ollama باید در بکگراند در حال اجرا باشه.
به زبان ساده:
Ollama = موتور اجرای مدلها (server)
Chatbox = رابط چت (client)
وقتی Ollama ران باشه:
روی localhost:11434 به شما API میده و Chatbox بهش وصل میشه و مدل رو صدا میزنه.
به امید روزهای بهتر.
@DevTwitter | <Diego Jr/>
Post #11448
14.1K
- 👎 78
- ❤ 55
- 👍 32