MWS AI и Rubytech тестируют LLM на китайском железе

▶️Разработчик ИИ-моделей MWS AI (МТС) и Rubytech уже совместно проводят испытания российских больших языковых моделей на ПАКах с китайскими GPU, которые должны стать альтернативой ИИ-чипам Nvidia. Их полноценный коммерческий запуск планируется уже в следующем году.

Запускали на ПАКе две модели MWS AI:

🔘старшую Cotype Pro 3 размером 27 млрд параметров
🔘и облегченную Cotype Light 3 на 9 млрд параметров

Для тестов MWS AI рассматривала пять вариантов китайских чипов. И, как пишут Ведомости, в отдельных сценариях инференса ПАК на базе китайских GPU показал результаты, сопоставимые с системами на базе Nvidia H100.

▶️Как рассказал руководитель направления развития технологий ИИ в продуктах «Скала^р» группы Rubytech Антон Юдин, сейчас компания дорабатывает ПАК после пилотирования. Первая версия будет ориентирована преимущественно на инференс, возможность дообучения компания планирует добавить позднее.

Минпромторг мечтает о локализации

Буквально вчера появилась информация о том, что Минпромторг совместно с разработчиками и производителями электроники прорабатывает возможность введения балльной системы для оценки локализации чипов, применяемых в системах ИИ. Мы вам рассказывали, в чем задумка авторов идеи.

🔽 Сейчас над отечественными ИИ‑ускорителями работают, например, «Байкал Электроникс» и НТЦ «Модуль». Но выпуск современного мощного чипа для ИИ по топологии 12–14 нм в России на сегодняшний день невозможен из‑за отсутствия фабрик полного цикла. Так или иначе придется использовать чипы, произведенные в Китае.

™️ МашТех в Telegram | в MAX