Совсем недавно мы делились изменениями в релизе nxs-universal-chart v.3.0. В первой статье из серии обучающих Пётр, DevOps-инженер компании Никсис, рассказал о том, как развернуть полностью готовый Inference контур в Kubernetes на основе KServe и Istio Gateway.
Из первой части вы разберете:
• 5 слоев inference-контура и функции каждого компонента;
• полный values.yaml файл на примере
ai-inference-mesh и всё, что под капотом; • рекомендации по настройке полноценного мониторинга моделей и правил безопасности
Приятного чтения и продуктивной недели!
#Хабр #статья_Никсис #kubernetes