Llama.cpp обновлён: возобновляемые загрузки и Docker Model Runner
Новое обновление додаёт докачку по byte-range, атомарную запись и более умную проверку версий. Docker Model Runner предлагает хранить модели как OCI-артефакты, версионирование и запуск через docker model run для надёжной доставки.
📌 Подробнее: https://www.docker.com/blog/llama-cpp-resumable-gguf-downloads/
MemOps 🤨
Post #5301
1.7K

- 👍 3
- ❤ 1