DeepSeek показала свою песочницу для обучения агентов
DeepSeek опубликовала статью о DSec — платформе изолированных сред для обучения LLM-агентов. Один производственный кластер из ~160 узлов обслуживает около 3 млн песочниц в сутки.
Агенты во время обучения лазают по репозиториям и запускают команды, и каждому нужна своя изоляция. DSec даёт единый SDK поверх четырёх бэкендов: вызовы функций, контейнеры, microVM и полноценные виртуалки.
Интересны цифры плотности: 380 тысяч одновременных песочниц и свыше 5000 созданий в секунду. Помогают общая память, ленивая загрузка образов из распределённой ФС и отдельный механизм против накрутки награды моделью.
🔗 Подробнее
@nuancesprog #Infrastructure
Post #8070
1.21K

- 👍 2