🇨🇳🤖 Китай: DeepSeek и Huawei развивают собственный программный стек для ИИ
Компания DeepSeek совместно с Huawei адаптировала ключевые программные компоненты своих ИИ-моделей для китайских ускорителей Ascend. Часть разработок опубликована в открытом доступе.
Создаются собственные средства для матричных вычислений, работы механизма внимания, обмена данными между ускорителями и распределения нагрузки в больших моделях. Кроме того, развивается среда TileLang, упрощающая написание высокопроизводительных программ непосредственно для Ascend.
📌 Ранее значительная часть таких вычислений была тесно связана с программной экосистемой Nvidia CUDA. Теперь DeepSeek пытается сделать так, чтобы её модели можно было эффективно обучать и запускать без использования ускорителей Nvidia.
Отдельное направление – масштабирование системы. DeepSeek и Huawei совместно оптимизируют комплекс на базе 128 ускорителей Ascend 950, предназначенный для обучения и эксплуатации крупных ИИ-моделей.
По данным самой DeepSeek, отдельные вычислительные операции на Ascend 950 достигают до 99,8% теоретической производительности процессора. Результаты пока преимущественно основаны на испытаниях разработчиков и требуют независимой проверки.
🔻 Главное значение разработки – Китай постепенно создаёт не только собственные ИИ-процессоры, но и необходимое для них программное обеспечение. Именно развитая программная экосистема остаётся одним из основных преимуществ Nvidia. Если такой стек получит широкое распространение, зависимость китайских разработчиков ИИ от CUDA и американских ускорителей может существенно снизиться.