وقتی مدل‌های زبانی بزرگ رو روی سخت‌افزارای سنتی اجرا می‌کنن، زمان پاسخ به‌خاطر رقابت منابع و رفتارهای دینامیک مدام نوسان داره. معماری Groq با حذف این پیچیدگی‌ها، اجازه می‌ده مدل‌ها با پهنای باند بالا و تأخیر قابل تضمین اجرا بشن یعنی یه سخت افزار فقط برای مدل ها؛ انویدیا دیروز به شرکت Groq مقدار 20 میلیارد دلار داد (نخریدش) گفت هرچی مهندس دارید جمع کنید بیاید توی انویدیا قراره اینو واسه خودمون پیاده کنیم، پر رو بازی در بیارید خود شرکتتون هم می‌خرم.
@Linuxor
Post #3783
9.75K