TGViewer
DevOps MemOps DevOps MemOps @devops_memops · 6.34K subscribers
Post #7547 1.54K
Applying Kubernetes Patterns to LLM Workloads

Несколько лет назад мы с Роландом Хуссом написали Kubernetes Patterns — каталог повторяемых решений для создания облачных приложений на Kubernetes. В книге рассматриваются шаблоны по шести категориям: базовые, поведенческие, структурные, конфигурационные, безопасность и расширенные — от проверок работоспособности и контейнеров инициализации до контроллеров, операторов и эластичного масштабирования. Недавно Роланд и Даниэле Зонка написали в соавторстве новую книгу «Генераторный искусственный интеллект в Kubernetes», в которой рассматривается операционная сторона запуска LLM в Kubernetes. Я был рецензентом этой книги, и чем больше я ее читал, тем больше я узнавал закономерности из нашей оригинальной работы, просто применимые к совсем другому классу рабочей нагрузки. Развертывания, StatefulSets, Init-контейнеры, DaemonSets. Они все были там. Только с большими цифрами.

Вот общий обзор того, как шаблоны Kubernetes применяются к рабочим нагрузкам LLM, которые мы с Роландом рассмотрим более подробно в нашем предстоящем выступлении KubeCon + CloudNativeCon Europe 2026 в Амстердаме.


📌 Подробнее: https://generativeprogrammer.com/p/applying-kubernetes-patterns-to-llm

MemOps 🤨
Generativeprogrammer Applying Kubernetes Patterns to LLM Workloads How Kubernetes patterns you already know carry over to LLMs, with a few important twists.
  • ❤ 2
More from @devops_memops
  1. Sep 30, 2026Выучил Go. Горутины, каналы, интерфейсы — всё понятно. А потом реальная задача: опросить 3…
  2. Sep 30, 2026Devs did what?! Oooops MemOps 😃
  3. Sep 30, 2026Bombini — runtime security агент на eBPF, целиком написанный на Rust с библиотекой Aya. Он…
  4. Sep 30, 2026MemOps 😃
  5. Sep 30, 2026Post #8312
  6. Sep 29, 2026drop — Linux sandboxing that doesn't get in your way 📌 Подробнее: https://github.com/wrr/…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →