🇺🇸🤖 США: Reflection AI представила открытую модель Beam на 501 млрд параметров
Американская компания Reflection AI, поддерживаемая Nvidia, представила собственную большую языковую модель Beam, ориентированную на программирование, сложные рассуждения и работу ИИ-агентов.
🔻 Beam построена по разреженной архитектуре MoE: всего модель содержит 501 млрд параметров, однако при обработке каждого токена используются только около 23 млрд. Это позволяет заметно сократить вычислительную нагрузку по сравнению с моделями, где одновременно задействованы все параметры.
Для предварительного обучения Beam использовали 23,8 трлн токенов и кластер из 6144 ускорителей Nvidia GB300. Затем модель дополнительно обучали с подкреплением: за четыре недели на примерно 10,5 тыс. GB300 было выполнено свыше 100 млн учебных эпизодов.
Особое внимание уделялось работе ИИ-агентов. Во время обучения Beam выполняла задачи в изолированных программных средах, запускала код и самостоятельно проверяла результат. Всего инфраструктура обработала около 1,3 млрд запусков таких сред.
Модель также обучалась работе с длинными документами. На отдельном этапе длина контекста была увеличена до 1 млн токенов, хотя обучение с подкреплением проводилось преимущественно на последовательностях до 256 тыс. токенов.
По собственным тестам Reflection, Beam находится примерно на уровне китайской GLM-5.2 и в ряде задач приближается к более крупным Qwen, Kimi и DeepSeek. При этом утверждение о 3–4-кратном снижении вычислений пока является расчётной оценкой разработчиков, а не независимым измерением реальной скорости.
🔷 США фактически пытаются создать собственную открытую альтернативу китайским Qwen, GLM, Kimi и DeepSeek, причём одновременно развивают инфраструктуру массового обучения ИИ-агентов.
Веса Beam планируется опубликовать позднее в октябре под лицензией Apache 2.0.