Docker Model Runner получил поддержку Vulkan
В блоге Docker сообщают, что Model Runner теперь использует Vulkan для GPU‑ускорения LLM на AMD, Intel и интегрированных GPU. Автообнаружение и простой запуск: docker model run ai/gemma3. Читайте подробности в блоге Docker.
Подробности: https://www.docker.com/blog/docker-model-runner-vulkan-gpu-support/
#en
@devo_pes | Другие наши каналы
Post #7261
380

- ❤ 1