TGViewer
Beyond the LLM 🌓 Beyond the LLM 🌓 @beyondthellm · 45 subscribers
Post #239 158

Forwarded from Время Валеры

На infra.conf 2026 Яндекс рассказал про Dev Cluster — штуку, которая должна была появиться давно. Это динамическое распределение GPU-ресурсов внутри их ML-платформы.

Суть следующая: ML-инженер за пару кликов получает контейнер с нужной GPU-конфигурацией — без заявок, без ожидания, без "Игорь,ты уже два года не возвращаешь битки ты уже два дня не трогаешь свою ГПУ, отдай". Говорят, ресурсы доступны за секунды.

Главная боль, которую это решает, — простой GPU. Когда у тебя парк машин, а люди вручную бронируют их и забывают отпускать (что происходит всегда), утилизация хуже, чем у Игоря. Dev Cluster перераспределяет мощности динамически — разработчики фокусируются на экспериментах, а не на - кто забрал мою ноду

Это часть единой ML-платформы, которая покрывает весь цикл от данных до деплоя. Её делают ребята из Yandex Infrastructure, которые строят дата-центры.

Возможно, это поможет вам не потратить 500 млн долларов на токены за месяц.
  • ❤ 1
  • 🔥 1
  • 🙉 1
More from @beyondthellm
  1. Sep 16, 2026Post #256
  2. Sep 14, 2026Post #254
  3. Sep 13, 2026Post #253
  4. Sep 11, 2026#собесы Разбор кейса с System Design интервью 🎯Задача: Есть система трекинга показателей…
  5. Sep 10, 2026🫪Сегодня с @oudser выступаем в качестве спикеров у @M0rtyMerr🐺
  6. Sep 10, 2026Релокация в сентябре 2026 / Где лучше пожить после выборов 10 сентября в 19:15 на стриме п…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →