Tencent открыла модель на 770 млрд параметров — и признала, что она слишком много думает 😨
28 августа компания выпустила Hy4 preview — открытую MoE‑модель для программирования, исследований, финансового анализа и создания игр.
Всего в ней 770 млрд параметров, но для каждого токена активируются только 49 млрд. Контекст — до миллиона токенов. Веса доступны в обычной и FP8‑версиях, а развернуть модель можно через vLLM или SGLang с OpenAI‑совместимым API.
Во внутреннем слепом тесте 163 эксперта оценивали ответы на 203 инженерные задачи. Hy4 preview немного опередила китайские GLM 5.3 и Kimi K3 — впрочем, это собственное исследование Tencent.
Есть и честное предупреждение: ранняя версия иногда слишком долго рассуждает и многократно перепроверяет собственный ответ. Кажется, ИИ уже перенял худшую привычку некоторых архитекторов.
Пруфы:
⏩Tencent
⏩модель и документация
⏩Reuters
#ai #opensource #llm #tencent #coding
@data_engi
Post #1291
143