Зашел на реддит посмотреть что интересного, и увидел такой пост.
Пишут что начали массово исчезать 5090 из крупных торговых площадок. А у
Почему? Причины всё те же - резкий рост спроса. В комментах еще обсудили разные теории, в которых замешан Китай, который скупает все остатки для своих перепаек на 96 gb VRAM. Но то лишь теории.
Если в игровом мире 5090 считается боссом видеокарт, то в AI-сфере уже как дешёвая основа AI-сервера. Вам не показалось. ДЕШЕВАЯ.
Пользователи сообщают примерно о 140–170 токенах/с на Qwen 3.8 27B, а в отдельных конфигурациях с NVFP4 + MTP встречаются результаты около 200 токенов/с. Знаю я таких пользователей, в НАШЕМ ЧАТЕ и не такие скоростя бывали. У меня всё.
MrGips • Про LLM / НАШ ЧАТ