Голосовые AI‑агенты в Docker: EchoKit, VAD и локальный запуск
В статье показано, как с помощью Docker развернуть голосовые AI‑агенты (EchoKit) с ASR, VAD, LLM и TTS, подключить MCP‑сервисы и GPU, снизить задержку и запускать всё локально. Примеры Docker‑команд и config.toml. Docker Model Runner: LLM локально. В статье рассказывают, как Docker Model Runner и MCP Toolkit позволяют запускать модели локально (пример: docker model run ai/gpt-oss, API на localhost:12434), повышая безопасность и переносимость EchoKit; для остальных сервисов всё ещё нужен облачный хостинг.

Подробности: https://www.docker.com/blog/develop-deploy-voice-ai-apps/

#en

@devo_pes | Другие наши каналы