В эпоху, когда AI-модели растут, а бюджеты не резиновые, каждый из нас сталкивается с одной и той же проблемой: как выжать максимум из железа, не утонув в Python-оверхед и бесконечных CUDA out of memory.
На докладе «Будущее системного ПО в эпоху AI: компиляторы, рантаймы и наш путь к OxideRT» я покажу, как мы нашли ответы на эти вопросы. Вы узнаете, почему системный подход в разработке — это не просто мода, а необходимость для реальной экономии и производительности. Мы разберём наш высокопроизводительный рантайм OxideRT, который позволяет буквально увеличить пропускную способность GPU на десятки процентов и значительно снизить операционные затраты. Я поделюсь нашим опытом, опытом Raft: от решения проблем с фрагментацией VRAM до создания стабильных минималистичных docker образов для этих целей.
И это не просто теория, это выводы из реальной работы, которые вы сможете применить уже завтра. Приходите, будет интересно!
Post #76
535
✈️ Андрей Носов — NLP Lead, архитектор ИИ, CTO — приглашает вас на OS DevConf 25 Powered by GigaChat и подробно рассказывает о своём докладе:
- 🔥 6
- 👏 3