Есть мнение, что для AI это не актуально, потому что Python — это только верхний слой.
Python действительно стал точкой входа в искусственный интеллект: на нём удобно быстро стартовать, проводить эксперименты, обучать модели и работать в исследовательской среде. Тем большая часть ML-экосистемы строится вокруг него.
Однако когда речь заходит о продакшене, в игру часто вступают C++ и Rust. Здесь важны контроль памяти, предсказуемая производительность и минимальная задержка. Inference в реальном времени, edge-устройства, системы с жёсткими требованиями к latency — всё это требует более низкоуровневого контроля.
И нередко именно на этом уровне живёт настоящий AI продукта, тогда как Python остаётся обвязкой или инструментом для прототипирования.
Если вы работаете с компьютерным зрением или большими NLP-моделями, вы неизбежно сталкиваетесь с GPU. Даже если вы не пишете CUDA-код напрямую, вы уже работаете с вычислительным стеком.
CUDA, Triton, OpenCL — это слой оптимизации, где решаются вопросы batching, memory layout, kernels и эффективного использования видеопамяти. На практике именно здесь часто определяется скорость и стоимость работы модели, а не выбор фреймворка.
Кроме того, модель редко существует сама по себе. Она встраивается в инфраструктуру: становится микросервисом, интегрируется в существующий стек, масштабируется под нагрузкой.
Так что на данный момент, AI — многослойная система, и мы думаем, что эта тенденция сохранится.
@onlinetsu