‏Show HN: Which Mac runs which LLM, and how fast
‏کدام Mac کدام LLM را اجرا می‌کند و با چه سرعتی؟

‏یک Mac و یک model انتخاب کنید؛ ابزار به شما می‌گوید چقدر حافظه نیاز دارد و چند token در ثانیه انتظار داشته باشید. پوشش کامل از M1 تا M6، همه‌ی اندازه‌های unified memory، و quantization‌های Q4 تا FP16 — فرمول‌ها بر اساس اندازه‌گیری‌های واقعی روی دو دستگاه تنظیم و تأیید شده‌اند.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: انتخاب Mac برای اجرای local LLM بدون یک ماشین‌حساب واقعی تبدیل به حدس‌وگمان می‌شه؛ این ابزار تصمیم خرید یا deploy را مستند می‌کند.
‏💡 نکته: پوشش Q4 تا FP16 یعنی می‌توانید تأثیر quantization روی سرعت را قبل از دانلود مدل ببینید — که اغلب از خود مدل مهم‌تر است.
‏👥 برای کی: توسعه‌دهنده‌هایی که می‌خواهند LLM را به‌صورت local روی Apple Silicon اجرا یا benchmark کنند.

‏🔗 https://macyou.co/mac-llm-calculator
‏#ai #LLM #inference

‏@BenFeed