Llama.cpp обновлён: возобновляемые загрузки и Docker Model Runner

Новое обновление додаёт докачку по byte-range, атомарную запись и более умную проверку версий. Docker Model Runner предлагает хранить модели как OCI-артефакты, версионирование и запуск через docker model run для надёжной доставки.

Подробности: https://www.docker.com/blog/llama-cpp-resumable-gguf-downloads/

#en

@devo_pes | Другие наши каналы