Нашёл прекласное, называется SAM3DBody-cpp. Берёшь обычное видео с одной камеры, на выходе получаешь готовый BVH-мокап, который без танцев перетаскивается в Blender или Unity. Никакого костюма, никаких маркеров, никакого Python в рантайме, только чистый C++ поверх ONNX Runtime и ggml.
Мне нравится, что видно, как оно работает внутри. Пайплайн прямо в README расписан по слоям: yolo.onnx находит людей и боксы, backbone (DINOv3-ViT-H, около 630 миллионов параметров) гонит фичемапу, decoder выдаёт pose-токен, а две маленькие головы на ggml-матмулах раскладывают его в 519 параметров позы и сдвиг камеры. На выходе скелет на 70 суставов вместе с кистями рук.
Про железо: backbone на 630 миллионов параметров для риалтайма хочет CUDA-видеокарту, на ней оно идёт почти в реальном времени. Для CPU автор выложил отдельный float32-бэкбон, но один прогон на ноутбучном процессоре будет ощутимо медленнее — это для оффлайн-обработки клипа, а не для вебки.
Лицензия MIT, репо живое: только вчера, 4 июня, завезли нативные Windows-сборки и поправили синхронизацию по кадрам для live-режима.
https://github.com/AmmarkoV/SAM3DBody-cpp
@make_game
Post #1910
1.91K