وقتی دارید مدل های لوکال رو دانلود می‌کنید ممکنه نوع فرمت های مختلفی از مدل رو ببینید چون مدل رو کوانتیزه‌سازی می‌کنن تا رم کمتری مصرف بشه این جدول رو داشته باشید مقایسه انواع فرمت های کوانتیزه‌سازی هستش.
برای مثال Q4 یعنی به زبان خیلی ساده، اطلاعات عددی داخل مدل با دقت پایین‌تر و حدود 4 بیت ذخیره یا نمایش داده شدن.
@Linuxor
Post #5002
10.1K
