Inside Yandex Cloud

🔘 Как мы перестроили архитектуру Yandex AI Studio под ИИ-агентов

Привет! Я Вася Ершов, руководитель ML-команды Yandex Cloud. Расскажу, какой путь мы прошли, когда глобально обновили Yandex AI Studio, и как мы искали правильные технические решения для этого релиза.

В марте мы глобально обновили Yandex AI Studio: добавили DeepSeek-V3.2, запустили рассуждающих агентов и снизили стоимость инференса до 6 раз. Также внедрили новые инструменты безопасности: теперь данные можно передавать по выделенным каналам без логирования запросов.

Чтобы внедрить эти возможности, нам пришлось полностью пересмотреть инженерную составляющую платформы. Современные агентские LLM требуют полноценной распределённой inference-системы: с разделением prefill и decode, переносом KV-кэшей между узлами, маршрутизацией с учётом расположения кэша и контролем TTFT/TBT на уровне всего кластера. 

Мало собрать GPU-кластер — нужно было ещё подобрать, интегрировать и доработать компоненты и сервисы так, чтобы вся эта конфигурация стабильно работала на нашем железе под реальной нагрузкой.

➡️ Узнать, как AI Studio устроена под капотом.

💻 Итоги инженерного квеста

Спасибо всем, кто прошёл ретроквест и ответил на вопросы — надеемся, путь инженера в офисе Yandex Cloud вам понравился!🎮

Рандомайзер уже сделал свою работу и среди всех участников случайным образом выбрал 5 победителей, каждый из которых получит умную колонку «Яндекс Станция Дуо Макс»:

1️⃣ Корепин Илья @trueilya
2️⃣ Колганников Иван @IvanKiu
3️⃣ Емелин Андрей @streetstorm
4️⃣ Холкин Андрей @lancerteam29
5️⃣ Савченко Виктор @victorrogue

Поздравляем 👏
Мы свяжемся с вами в течение недели и расскажем, как получить ваши подарки.

🔗 Можно прийти на консультацию к ребятам из нашей команды на конференции dream → teamlead. А можно — начать работать с ними вместе. Собрали роли для технических лидеров и руководителей, где от вас ждут не только экспертизы, но и умения выстраивать команды, задавать направление и брать ответственность за результат.

⭐️ Тимлид ML-команды (AI Search) в AI Studio Yandex Cloud

Вы возглавите ML-команду: будете развивать разработчиков, задавать техническое направление и превращать продуктовые цели в реалистичный roadmap, выстраивая процессы разработки и релизов моделей. При этом роль остаётся hands-on: исследование и внедрение SOTA-моделей для RAG и классификации, интеграция их в инфраструктуру инференса и ответственность за качество и стабильность. Значимая часть времени — код, архитектура и код-ревью.

⭐️

Технический лидер в команду сети

Вы будете развивать сетевую инфраструктуру облака на базе технологий Software-Defined Networking: отвечать за связность виртуальных машин внутри облака и с внешним миром, реализовывать сервисы вроде DNS, L3/L7-балансировщиков, Stateful NAT и Cloud Interconnect. Также передадим вам запуск и ведение крупных кросс-командных проектов, архитектурные изменения и неформальное управление разработкой: делегирование задач, координацию команд и работу со смежными направлениями — безопасностью, архитектурой и продуктом.

⭐️

Руководитель группы инженеров поддержки Yandex Cloud

Вы возглавите команду DBAOps-инженеров: будете выстраивать процессы поддержки, анализировать обращения пользователей и находить системные способы улучшить качество сервиса. Важная часть роли — управление метриками команды и развитием процессов: вместе со смежными подразделениями искать точки роста, менять то, что не работает, и повышать уровень поддержки для пользователей.

💬 Совет опытного коллеги заменяет месяц самостоятельных поисков

28 марта встречаемся на dream → teamlead — большой конференции для тех, кто строит команды, управляет процессами и принимает сложные решения. В зале «Практика» ведущим будет Иван Москвин, руководитель подразделения Marketplace. А ещё от команды Yandex Cloud в зоне консультаций будут Миша Бобров и Аркадий Вязников. Чтобы вам было проще выбрать своего собеседника, мы попросили ребят поделиться важной для них мыслью про роль управленца.

Михаил Бобров, руководитель подразделения Compute:
«Я учился у своих друзей, руководителей, просто глядя на людей, которыми восхищался».

Аркадий Вязников, руководитель подразделения IAM & Resource Management: 
«Идеально не будет никогда. На работе приоритет №1 — это люди, и беречь их — прямая обязанность руководителя. Хочешь идти быстро — иди один, хочешь дойти далеко — идите вместе».

➡️ Листайте карточки, чтобы познакомиться с ребятами поближе. Или сразу переходите регистрироваться на мероприятие

Раз уж вы всё равно открыли конверт, давайте смотреть, какие инженерные кейсы обсудим на митапе about:cloud — infrastructure.

Разберём нетривиальные задачи, на которых мы набили шишки, и покажем решения, которые работают у нас.

В программе 5 докладов:

🔵 Развёртывание в ритме танго: как мы заменили оркестрацию процесса инсталляции «хореографией»

Валентин Синицын, руководитель Yandex Cloud Stackland

При слове «инсталлятор» в голову обычно приходит скрипт, который копирует файлы. С течением времени он усложняется, и под конец уже никто точно не может сказать, как всё это работает. А если заменить оркестрацию процесса установки «хореографией», столь популярной в мире Kubernetes? Мы пошли этим путём в Stackland и неожиданно для себя получили несколько фич, запланированных «на потом», сразу же и практически бесплатно.

🔵 Как мы оптимизируем инференс LLM: кэширование, время ответа и GPU-ресурсы


Андрей Кириленко, руководитель подразделения AI Studio Tech, Yandex Cloud

🔵 Как мы работаем с уязвимостями на примере Inception (SRSO)

Сергей Хейфец, системный разработчик, Yandex Cloud
Максим Давыдов, системный разработчик, Yandex Cloud

Расскажем на примере Inception (SRSO, CVE-2023-20569), как команда системной разработки исследует уязвимости и выбирает методы защиты от них.

🔵 IaC для управления алертами: и никаких проблем

Вячеслав Спиридонов
Руководитель группы SRE в Yandex BareMetal, Yandex Infrastructure

Покажем, как мы решали вопрос управления своим «зоопарком» алертов в системах мониторинга. Посмотрим на варианты, которые рассматривали, и на то, что в итоге у нас получилось (и не получилось).

🔵 Как мы строили свой CDN и через что нам пришлось пройти

Евгений Зайцев, ведущий технический менеджер проектов, Yandex Infrastructure
Андрей Агарков, технический менеджер, Yandex Infrastructure

CDN в Яндексе много лет существовал как внутренняя инфраструктура для сервисов компании, а теперь он доступен и внешним пользователям. Расскажем, как устроен CDN, а также о сложностях, с которыми столкнулись при превращении внутреннего сервиса в публичный продукт.

Для тех, кто будет офлайн, мы подготовили секретную сессию, где разберём самые острые вопросы не под запись. Трансляция и запись этой части не предусмотрены — всё, что будет на секретной сессии, останется в стенах зала.

➡️ Регистрируйтесь и приходите — покажем, как решаем инфраструктурные задачи на практике.

Не открывать до апреля 🤫

Вам письмо от команды Yandex Cloud:

❤️❤️❤️❤️❤️❤️❤️❤️
❤️❤️❤️❤️❤️❤️❤️❤️
❤️❤️❤️❤️❤️❤️❤️❤️

16 апреля встречаемся на about:cloud — infrastructure. Регистрируйтесь для участия в офлайн- или онлайн-формате.

❤️❤️❤️❤️❤️❤️❤️❤️
❤️❤️❤️❤️❤️❤️❤️❤️

🔎 Мы меняемся. Yandex Cloud из облака стал технологической платформой с широким набором продуктов и разными форматами поставки сервисов. Как это отражается в нашей новой айдентике? Рассказываем в ролике.

0:20 — как Yandex Cloud изменился с момента запуска;
0:44 — какие задачи решали новым логотипом;
1:08 — какую идею добавили в основу нового стиля;
1:44 — какую метафору заложили в айдентику.

🔥 — как стильно и глубоко получилось!

✉️ На ваш пейджер пришло новое сообщение

Что, если IT-процессы можно прокачивать как тачки в автосалоне? В новом шоу «Техно на прокачку» эксперты Yandex Cloud совместно с техноблогером Максом Балу и комиком Егором Кукса решают сложные задачи бизнеса и помогают им прокачаться. 

Гостем проекта стала компания ROSTIC’S, которая передала нам в работу: 
🔵 консолидацию данных из Rkeeper и Digital Ecosystem;
🔵 подготовку витрин для BI и настройка ETL-процессов;
🔵 масштабирование инфраструктуры под быстрорастущий бизнес.

⚡️

Как всё будет происходить

Мы устроили противостояние: эксперты Yandex Cloud сталкиваются с мастером обещаний и быстрых результатов Ярославом Обещаловым, которого играет комик Егор Кукса. Каждая сторона предложит свои варианты решения задачи, подходы и аргументы — а вы увидите, как рождается оптимальный подход.

От нашей команды прокачкой

тачки

процессов занимались руководитель продуктовой архитектуры платформы данных Леонид Савченков, продуктовый архитектор платформы данных для ML & AI Кузьма Лешаков и руководитель направления по работе с финансовым сектором Мария Кулабухова.

Уже несколько пропущенных на ваших пейджерах, пора начинать! 👇

Смотрите выпуск на

Кинопоиске,

YouTube,

RUTUBE,

в

VK Видео

или слушайте на

Яндекс Музыке

— будет остро, технологично и весело

.

Ни слова больше. Смотрим, какой он, новый стиль Yandex Cloud.

Привет! На связи Вова Колпаков, руковожу командой коммуникационного дизайна в Yandex Cloud. Сегодня я наконец могу поделиться результатом нашей большой работы — новым визуальным стилем Yandex Cloud.

Краткая предыстория:
с 2018 году нас вдохновляла идея сделать технологии понятнее. С тех пор Yandex Cloud выросла в огромную платформу. Мы разработали более 75 сервисов: от масштабирования инфраструктуры до ИИ-агентов и кибербезопасности. А ещё вышли за пределы облака, добавив новые модели поставки — on-premises и гибрид.

С таким количеством сущностей нам стало тесно в рамках прежнего стиля. Нам нужно было найти образ, который отразит сложность технологий и сохранит его визуальную близость к аудитории. Мы стремились стать более выразительными и эстетичными, оставаясь простыми для понимания. 

Рассказываю, что стоит за масштабным редизайном, и показываю много красивого. 

🔥 — это «Вау!»