🐋 DeepSeek-V4 вышел и это просто монстр:
• 58 страниц технического отчёта
• 1.6 трлн параметров (самая большая открытая модель в истории)
• Контекст 1 миллион токенов
• Две новые техники внимания с грозными именами: HCA и CSA (звучит как спецназ, а не attention)
В 10 раз меньше KV-кэша, чем у V3.2.
Обучен на 32 трлн токенов, почти вдвое больше предыдущей версии.
И как вишенка: в этой же статье они походя стебут Claude за любовь к буллет-поинтам 💀
Китайцы буквально выкатили опенсорс-гигант и ещё успели потроллить Anthropic в сносках. Мультитаскинг уровня бог.
alphaxiv.org/abs/deepseek-v4
Post #1402
1.72K

- 🔥 11
- ❤ 2
- 😁 1