Новая 7B coding-модель с Apache 2.0 лицензией. Г
Модель переиспользует общие Transformer-блоки и делает дополнительный круг рассуждения во время инференса.
Что внутри:
* 2-loop режим оказался лучшей точкой
Он сильнее 1-loop baseline на бенчмарках по коду, software engineering, терминалу и tool-use задачам.
* Особенно заметный прирост на repo-level задачах
Самые большие улучшения видны на SWE-bench Verified и Multi-SWE, где важна работа не с отдельной функцией, а с целым репозиторием.
* Модель обучали с нуля
LoopCoder-V2 прошёл pretraining на 18T токенов и 100+ языках программирования.
Интересная деталь: это не просто очередная 7B coding-модель, а попытка выжать больше качества за счёт test-time reasoning без радикального роста размера модели.
Apache 2.0 делает релиз особенно приятным для экспериментов и интеграции в свои dev-пайплайны.
Ссылка:
https://modelscope.ai/models/Multilingual-Multimodal-NLP/LoopCoder-V2
Post #5329
4.29K

- 👍 11
- ❤ 4
- 🔥 3