Mercury
اولین مدل زبانی بزرگ defusion large language model (dLLM) با کیفیت تجاری معرفی شد!
نکته جالب اینجاست که این مدل، همه توکن ها (کلمات یا بخش های کلمات) رو یکجا تولید و سپس بهینه میکنه، برخلاف مدلهای مبتنی بر ترنسفورمر که هر توکن رو یکی یکی تولید می کنن.
مدل منتشر شده در حالی که تا ۱۰ برابر سریع تر از مدلهای پیشرفته و بهینهشده برای سرعت مانند "GPT-4o Mini" و "Claude 3.5 Haiku" اجرا میشه که عملکردی کاملا مشابه اونها داره. این بدان معناست که شما میتونید از همان سطح کیفیت و دقت، اما با سرعتی بسیار بالاتر بهرهمند شین.
علاوه بر این، این مدل به سرعتی بیش از ۱۰۰۰ توکن در ثانیه بر روی پردازنده های گرافیکی "NVIDIA H100" دست پیدا کرده. این سرعت فوقالعاده، امکان تولید متنهای طولانی و پیچیده رو در کمترین زمان ممکن فراهم میکنن.
نکته قابل توجه اینه که این سرعت بالا، بدون نیاز به استفاده از تراشه های تخصصی بدست اومده. به عبارت دیگه، شما میتونید با استفاده از سخت افزارهای استاندارد، از قدرت و سرعت بینظیر مدلهای "Mercury Coder" بهرهمند شین.
https://www.inceptionlabs.ai/news
Post #3918
3.68K
- 👍 17
- 😱 5
- 👌 2
- 🔥 1