به عنوان نکته تکمیلی، به جای کار با مدل در ترمینال، میتونین از رابط تحت وب llama.cpp استفاده کنین که کار باهاش سرراستتره. بنابراین در اون دستور، llama-server رو جایگزین llama-cli کنید:

llama\llama-server.exe -m "models\gemma-3-1b-it-IQ4_NL.gguf"

بعد از اینکار ادرس http://127.0.0.1:8080 رو در مرورگر وارد کنید تا رابط تحت وب براتون باز بشه.

📍 @TechTube