Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware
پیش از خرید سختافزار، سرعت واقعی یک LLM محلی را حس کنید
سختافزار و model موردنظرتان را انتخاب کنید و پیش از خرید، سرعت واقعی اجرای یک LLM محلی را تجربه کنید. این ابزار بر اساس benchmarkهای تأییدشده برای GPUها، Macها و موارد دیگر، مقادیر tokens/sec و time-to-first-token را شبیهسازی میکند.
نظر هوش مصنوعی — ⭐ ۷/۱۰
🎯 چرا مهمه: خرید سختافزار برای inference محلی بدون دادهی واقعی یک شرطبندیِ گران است؛ این ابزار آن ریسک را پیش از پرداخت پول حذف میکند.
💡 نکته: تفاوت time-to-first-token با throughput در تجربهی کاربری خیلی محسوستر از عدد روی کاغذ است و دیدنِ شبیهسازیِ زندهاش این را ملموس میکند.
👥 برای کی: توسعهدهندههایی که میخواهند LLM را بهصورت local و self-hosted اجرا کنند و هنوز در انتخاب سختافزار مردد هستند.
🔗 https://llmspeed.dev/
#ai #LLM
@BenFeed
Post #708
13