[!quote]+ 
今天，我们发布了 Mellum 2.1，这是我们在六月份开源的 120 亿混合专家模型的下一个版本。其架构与版本 2 相比没有变化：它仍然是一个紧凑、快速的模型，拥有 25 亿个活跃参数，并以 Apache 2.0 许可证发布。变化之处在于预训练之后的所有步骤。 
Mellum2 速度很快，但它无法在代码库内部达到我们想要的效果。经过一个夏天在真实环境中进行的强化学习，以及在数千个沙盒环境中进行的数百万次运行，Mellum2.1 终于可以做到：它可以探索代码库、编辑文件并检查自身的更改。 
该版本几乎所有的工作都投入到了训练后，主要是强化学习（RL）。 

强化学习迈向新的规模：强化学习从短暂的最后阶段发展成为训练的主要部分。我们针对如何训练方法和数据进行了大量实验，并保留了行之有效的方法。
更多数据，更严格筛选：我们新增了数学、算法竞赛、科学、工具使用和软件工...