Как устроен Docker Model Runner и что дальше
Docker рассказал о создании Model Runner — инструмента для локального запуска AI моделей с поддержкой множества движков и OpenAI API. Особое внимание уделяется производительности, GPU-ускорению и интеграции с Docker CLI. Впереди расширение функционала и поддержка новых платформ. Docker Model Runner: новый уровень интеграции AI в Docker
Docker представил Model Runner — инструмент для запуска и управления AI-моделями в Docker Desktop и Docker CE. Сейчас поддерживается macOS, Windows и Linux. В планах улучшение удобства, расширение OpenAI API и интеграция с Kubernetes. Важные изменения на официальном сайте Docker
Компания Docker обновила разделы новостей, бренд-гайдлайнов и контактной информации. Также стала доступна новая коллекция фирменных товаров и вакансии. Подробности доступны на сайте Docker.
Подробности: https://www.docker.com/blog/behind-the-scenes-how-we-designed-docker-model-runner-and-whats-next/
#en
@devo_pes | Другие наши каналы
Post #6785
304
