⚡️ عملکرد GPT-OSS 120B روی Cerebras

مدل GPT-OSS 120B توانایی تولید ۳۰۰۰ توکن در ثانیه روی سخت‌افزار Cerebras را دارد.

💰 قیمت‌ها منطقی و مناسب هستند:

حدود ۰.۲۵ تا ۰.۶۹ دلار برای هر میلیون توکن
این قیمت نسبت به ارائه‌دهندگان GPU کمی بالاتر است، اما سرعت اجرا ده‌ها برابر بیشتر است.


شرکت Groq نیز این مدل را اجرا کرده، اما نتایج به این اندازه چشمگیر نیست:

برای مدل 120B، حدود ۵۰۰ توکن در ثانیه (قیمت: ۰.۱۵ تا ۰.۷۵ دلار برای هر میلیون توکن)

برای مدل 20B، حدود ۱۰۰۰ توکن در ثانیه (قیمت: ۰.۱ تا ۰.۵ دلار برای هر میلیون توکن)


برای اطلاعات بیشتر:
🌐 inference.cerebras.ai