Главное. Анализ с r/LocalLLaMA оценивает: китайские открытые модели отстают от закрытых моделей США примерно на 7 месяцев. Это ориентир для выбора между облачным API и собственным инференсом. Второй сигнал — Anthropic заявляет, что открытые модели несут больше киберрисков, поэтому локальный запуск требует дополнительной защиты.
Открытые веса догоняют.
Разрыв в 7 месяцев означает, что сильнейшие открытые веса дают уровень, близкий к фронтиру двухквартальной давности. Для внутренних задач — суммаризации, RAG, агентов средней сложности, генерации кода — этого часто достаточно, чтобы не платить за API и не отдавать данные наружу.
Где это не работает.
На задачах, где критичны топ-1 результаты frontier-моделей, отставание может быть заметным. Оценка 7 месяцев — сравнение бенчмарков, а не независимый аудит; в конкретном домене разрыв может быть больше. Проверяйте лицензии, требования к железу и качество на своих данных.
Позиция Anthropic.
Представитель компании считает, что открытые модели выше по киберрискам: их можно скачать, дообучить и снять защитные барьеры. Для практиков это не запрет, а чек-лист: при self-hosted (запуске моделей на своих серверах) нужны red teaming (проверка модели на злонамеренное использование), ограничение доступа к чувствительным системам и мониторинг выходов модели.
Кому полезно. CTO, ML-инженерам, DevOps и всем, кто выбирает между локальным запуском и API.
Источники: Bloomberg, Business Standard, обсуждение на r/LocalLLaMA.
━━━━━━━━━━━━━
📎 Источники:
• Anthropic Executive Says Open-Source AI Models Are Higher Risk
• The AI race: China's open-weight models trail US closed models by just 7 months