▶️ Компания «Т1» уже использует внутри своего контура графические процессоры не только Nvidia, но и китайских производителей. И по словам руководителя направления «Искусственный интеллект» Т1 Сергея Голицына, они показывают «достаточно приличные результаты».
Мы оттестировали их на собственных моделях и сейчас начинаем генерировать программное обеспечение, включая драйверы, позволяющее запускать софт, который ранее не запускался на китайских картах. Конечно же, сегодня Nvidia проще использовать, но если посмотреть чуть дальше, то нужно понимать: если не начать работать с этим сейчас, то можно опоздать
Альтернативы GPU Nvidia - один из векторов «ИИ-зации». Потребность в инфраструктуре растёт, и даже без санкций стоит смотреть на восточные тренды, к тому же карты Nvidia сильно дорожают. Китайские тоже, но насыщенность рынка сдерживает цены.
Ускорители - просто огонь.
🔽 Голицын рассказал, что в Китае уже существуют кластеры на основе, казалось бы, малоизвестных карт, мощность которых сопоставима с крупнейшими российскими кластерами уровня Сбербанка. Впрочем, не обходится без проблем.
GPU Nvidia - это высокотехнологичный продукт, повторить графическую карту очень сложно, но китайцы уже по сути этого достигли по производительности. Вместе с тем они отстают: есть проблемы в качестве этих карточек - они горят.
Что касается софта, то большинство китайских производителей вынуждены ориентироваться на стандарт CUDA, выпуская совместимые решения. А «Т1» уже тестирует не только GPU, но и специализированные тензорные ускорители, которые экономически выгоднее для инференса.
™️ МашТех в Telegram | в MAX