#полезное
👨‍💻 GPT-OSS 120B выдаёт 3000 токенов в секунду на Cerebras

Цены не заоблачные — $0.25/$0.69 за миллион токенов, это дороже чем у GPU провайдеров, но в десятки раз быстрее. Groq тоже запустили у себя эту модель, но результаты менее впечатляющие — 500 токенов в секунду для 120B ($0.15/$0.75 за миллион токенов) и 1000 токенов в секунду для 20B ($0.1/$0.5 за миллион).

inference.cerebras.ai

👉Новости 👉База вопросов