GPGPU Russia

Презентации со вчерашнего митапа «Systems Meetup 2» лежат здесь.

#systems #симпозиум

Systems meetup №2 уже сегодня в 19:00 в главном здании ИТМО (Санкт-Петербург, Кронверский пр., 49)!

Программа митапа здесь.

#systems #симпозиум

Тёмная сторона Джима Келлера

Компания известного разработчика процессоров Джима Келлера Tenstorrent решила превратить свои ИИ-акселераторы Blackhole P150 в lite-версию и отрезать 20 ядер из 140 на уже проданных экземплярах. Все новые экземпляры поставляются со 120-ядрами, а для старых чтобы жизнь мёдом не казалась, в драйвере с версии v19.5.0 установили число ядер тоже в 120.

#hardware

Компилятор из CUDA в AMD RDNA 3 и 4 (видеокарты AMD Radeon 7xxx и 9ххх), написанный на С99 без зависимостей от других библиотек:
https://github.com/Zaneham/BarraCUDA

#cuda #amdgpu

Разбирай всю неделю заявки на доклады и ты не будешь работать ни дня*.

*Это не значит, что ты не будешь работать ночью, планы-то никто не отменял...

PS: Спасибо всем, кто прислал заявки на C++ Russia ❤️

PPS: Горшочек, не вари!

Недавно прошёл очередной курс "Вычисления на видеокартах" от Николая Полярного бесплатно без регистрации и смс (ну, при желании, можно и зарегистрироваться).

Из опыта прошлых таких постов, почему-то ссылки курсы (тоже открытые) про GPU от Nvidia набирают гораздо больше просмотров и пересылок, что странно, так как этот курс (и прошлые его версии) гораздо более глубокий, охватывает гораздо больше тем и вообще на русском языке.

#gpgpu #learning

Регистрация будет доступна только до 22.02, так как это самый крайний срок, когда бюрократия ИТМО сможет обработать список посетителей и сделать пропуска.

Systems meetup №2!

Открываем второй сезон митапов по системному программированию «Systems».
25.02.2026 в 19:00 в главном здании ИТМО (Санкт-Петербург, Кронверский пр., 49).

Ссылка на регистрацию:
https://itmo.events/events/117596

Группа митапа в телеграме: https://t.me/+nn08LEZfAG85NWFi

Программа:

1. «Неопределённое поведение: если про него не думаете, это не значит, что его нет». Алексей Горшков (PVS-Studio).
О докладе:
Тема неопределённого поведения (UB) в языке C++ освещается и обсуждается многие годы, но это не значит, что она исчерпала себя. Это плата, которую программисты отдают за эффективные оптимизации кода, такие как удаление ряда проверок. C++ - опасный инструмент, и не помешает лишний раз напомнить, как правильно держать его в руках. Причём с приходом инструментов вайб-кодинга ситуация, скорее всего, даже ухудшится, так как станет ещё сложнее удерживать неопределённое поведение под контролем. Обсудим эту тему, заглянув в будущее.

2. «Целочисленные многогранники в компиляторных оптимизациях». Кирилл Сабитов (Huawei).
О докладе:
Современные многоядерные архитектуры и процессоры с поддержкой векторных инструкций требуют сложных оптимизаций, с которыми классические методы часто не справляются. Ручная оптимизация - это трудоемко и непереносимо. Мы рассмотрим подход на основе теории многогранников (Polyhedral Model). Он позволяет математически строго находить оптимальные преобразования (тайлинг, распараллеливание, слияние циклов) для статических частей программы (SCoPs), обеспечивая локальность данных и максимальный параллелизм.

3. «Ре(Э)волюция инструментов разработки в эпоху AI: в мире и Яндексе». Дмитрий Иванов (Руководитель SourceCraft, Яндекс).
О докладе:
В 2025 году только самые скептично настроенные люди не верят, что AI-революция изменит наш мир так же сильно, как и появление Всемирной паутины более 30 лет назад. Если в прошлом году Cursor-ом пользовались отдельные энтузиасты, то сейчас идея увеличения продуктивности разработчика за счёт AI захватила умы всего бигтеха, а CTO компаний получили чёткие KPI на внедрение таких инструментов.

Однако разработка — лишь часть SDLC-цикла, где присутствует планирование, тестирование, сборка, развёртывание, эксплуатация. Очевидно, хочется ускорения всего цикла, а не только отдельного компонента. Здесь мы попадаем в область платформ для создания цифровых продуктов, а если копнуть чуть глубже — то и инфраструктуры развёртывания, облачной и on-premise. Какие изменения и тренды нас тут ждут в ближайшем будущем?

А главное — современный мир немыслим без open source, типовые продукты в компаниях складываются из тех самых open-source кубиков. Поэтому часто задача по созданию информационной системы сводится к тому, чтобы выбрать и правильно интегрировать open-source инструменты с проприетарными источниками данных. Посмотрим на будущее open source, вопросы его безопасности и устойчивого развития в условиях современного тренда на деглобализацию.

Говоря более простым языком: как можно и нужно будет разрабатывать open source в будущем, получать за это деньги и славу, а также как безопасно использовать open source в компаниях.

Митап проходит при поддержке «Городских сервисов Яндекса» (https://dev.go.yandex).

Организаторы: Михаил Лукин (канал GPGPU_RU), Роман Елизаров, Виталий Аксёнов и Константин Бац.

#systems #симпозиум

Статья «Используем паттерны C++ в ML: пишем тензор с factory, выделяем память и управляем динамическими типами» от Кирилла Колодяжного, автора ML-фреймворка Adept, в которой он рассказывает, как использовать паттерны C++ для создания ядра ML-платформы.

Вышло моё интервью с Юлией Уваровой:

🎬 ВК-видео 🎬 YouTube 🎬

Посмотрите, мне кажется, получилось интересно.

Немного оффтопа: пост поддержки open source.

Мой хороший знакомый делает open source проект - mlut. Это CSS-фреймворк для кастомных сайтов и креативов. Он похож на Tailwind, но по некоторым параметрам превосходит все популярные аналоги.

Недавно он запустил этот проект на ProductRadar и соревнуется там со стартапами за топ-3 продуктов этой недели. Поддержите его на этом портале.

#мненезаплатили

Раз уж дали такую возможность, завёл канал в мах.

В день, когда нас стало 400, наше государство решило начать блокировать телеграм 🤷‍♂️

Обзорная статья современного функционала Vulkan.
Будет интересна тем, кто уже нарисовал свой первый треугольник в Вулкане.

1. Vulkan-HPP: не забываем, что у Vulkan есть не только C-API, но также и C++-API, более компактное и с улучшенной безопасностью типов. В статье приведён код сравнения С vs С++ API.

2. Dynamic Rendering: значительно упрощает работу по сравнению с традиционными рендер-пассами.

3. Bindless Descriptors: Vulkan позволяет упаковать дескрипторы в единый массив и один раз (а не каждый draw call) сделать UpdateDescriptorSet, а потом итерироваться по нему (массиву) в шейдерах.

4. Buffer Device Address: А для буферов памяти можно вообще избавиться от дескрипторов, и работать с буферами через указатели.

5. Shader Objects: возможно, самый радикальный сдвиг парадигмы у Vulkan за последние годы. Просто сравните количество кода, которые нужны для традиционных Pipeline State Objects (PSO) и для новых Shader Objects.
В PSO в драйвер требуется передать всю возможную информацию про шейдер (не только код, но и форматы вершин, как обрабатывать треугольники, как смешивать цвета, настройки глубины и так далее). Тогда драйвер взяв всё это скомпилирует нам шейдер. Если у нас хоть что-то поменялось, мы делаем новый объект, и опять просим драйвер скомпилировать шейдер.
А в подходе Shader Objects в драйвер для компиляции передаются только сами шейдеры, а остальные настройки изменяются динамически.
Теоретически, PSO позволяют драйверу лучше оптимизировать шейдер при компиляции, но на практике на современных GPU разницы практически нет.

#graphics #vulkan

Ну а теперь к люменам, динамическому глобальному освещению – самой противоречивой технологии Unreal Engine.

С одной стороны, это очень крутая технология, новое слово в реалистичном рендеринге.
А с другой, многие, даже богатые студии-разработчики игр расслабили булки и всё глобальное освещение сделали через люмены. Вместо того, чтобы запекать освещение везде, где только можно.

Как итог, в глазах многих игроков "игра на Unreal Engine 5" стало синонимом слову "тормозная" (даже если у вас 5090!), даже если графика там не самая передовая. И лишь самые стойкие могут сдержаться и сделать оптимизированную игру на Unreal 5. Разумеется, Fortnite, которая использует и люмены и наниты, максимально оптимизирована и выдаёт >200 FPS на "народной" RTX 4060.

Но давайте посмотрим, что стоит за технологией Lumen.

Lumen использует комбинацию из различных методов трассировки лучей.

Сначала идёт быстрый Screen tracing (при помощи G-буфера) для того, чтобы определить, где луч пересечёт ближайшую поверхность. В некоторых случаях этого достаточно для рендеринга, и на этом всё и заканчивается.

Но иногда (например, луч не нашёл пересечение и вылетел за экран).
И тогда, если доступна и включена в настройках аппаратная трассировка (например, RTX на Nvidia), то используется она. Если нет, то используется либо Mesh Distance Fields (MDF), либо более точный Signed Distance Fields (SDF).

В конце уже идёт использование skymap (он же skybox), если лучи вообще никуда на сцене не попали (значит, попали в небо).

Подробности можно посмотреть тут:
https://advances.realtimerendering.com/s2022/SIGGRAPH2022-Advances-Lumen-Wright%20et%20al.pdf

#graphics

Раз уж тема зашла про люмены и наниты, предлагаю познакомиться с ними поближе.
Давайте сегодня про наниты.
Можно посмотреть доклад на русском от уважаемого Николая Полярного на русском языке.
Или можно посмотреть на английском от главного по рендерингу из Эпиков.

А документацию по ним можно почитать здесь.

#graphics

🔍 Как стабилизировать систему перед нагрузочным тестированием

Если вы сравниваете производительность (например, как я наш Vulkan-бэкенд vs PyTorch), важно обеспечить воспроизводимость бенчмарков, исключив влияние системных факторов. Например динамическое управление частотами или рандомизации памяти. Вот минимальный набор команд для Linux-систем с NVIDIA GPU с которых можно начать:

🖥️ GPU (NVIDIA)

# Включить persistence mode (чтобы драйвер не «усыплял» GPU)
sudo nvidia-smi --persistence-mode=1

# Зафиксировать частоты (пример для RTX 4070)
sudo nvidia-smi --lock-gpu-clocks=3105      # MHz (core)
sudo nvidia-smi --lock-memory-clocks=8001   # MHz (VRAM)

> ⚠️ Значения частот подбирайте под вашу модель GPU. Их можно найти в выводе nvidia-smi -q -d SUPPORTED_CLOCKS.

⚙️ CPU

# Переключиться в режим максимальной производительности
sudo cpupower frequency-set -g performance

# Зафиксировать минимальную частоту (например, 3.9 ГГц)
sudo cpupower frequency-set -d 3900000

> Это позволяет задать более-менее предсказуемый диапазон частот для процессора.

🧠 Дополнительно: уменьшаем системный «шум»

# Отключить ASLR (Address Space Layout Randomization)
echo 0 | sudo tee /proc/sys/kernel/randomize_va_space

>Это повышает воспроизводимость времени запуска и распределения памяти — особенно важно при микро-бенчмарках.

💡 Другие рекомендации:
- Закройте фоновые приложения
- Отключите энергосбережение в BIOS/UEFI (C-states, P-states)
- Запускайте тесты несколько раз и берите медиану
- Используйте taskset или numactl, чтобы изолировать ядра CPU
- Для серверных GPU: отключите коррекцию ошибок ECC (`nvidia-smi -e 0`), если это не критично.

Такой подход позволяет добиться воспроизводимых результатов — без него сравнение «на глаз» может ввести в заблуждение.

P.S. Эти настройки временные — после перезагрузки всё вернётся к стандартному поведению. ⚠️ Не применяйте их на продакшен-машинах без понимания последствий!

#GPU #Benchmarking #Vulkan #PyTorch #ML #Linux #Performance #Adept

@yandexmusic_live, вы теперь просто обязаны сделать нанитов!

А кто знает проверенное место в Питере где ремонтируют фотоаппараты Canon? Напишите, плиз, в комментариях.

Прочитал мини-курс по компьютерному зрению на примере задачи "Соберем пазл по фотографии" (без библиотек):
- 7 занятий по полтора часа
- задания - написать код в самых интересных частях
- аудитория (очень приятная, вовлеченная и крутая): талантливые старшекласники

Материалы:
- конспекты и практические задания
- видеозаписи лекций (большое спасибо организаторам за разрешение на публикацию)
- исходный код