Ведущее отраслевое медиа о цифровой промышленности и машиностроении, AI и IT-решениях для производств, индустриальных технологиях и инновациях
ИД НОМ idnom.ru
Реклама @id_nom
Редакция @tech_nom
MAX https://max.ru/mash_tech
РКН https://clck.ru/3FASpf
Post #6771
11.6K
MWS AI и Rubytech тестируют LLM на китайском железе
▶️Разработчик ИИ-моделей MWS AI (МТС) и Rubytech уже совместно проводят испытания российских больших языковых моделей на ПАКах с китайскими GPU, которые должны стать альтернативой ИИ-чипам Nvidia. Их полноценный коммерческий запуск планируется уже в следующем году.
Запускали на ПАКе две модели MWS AI:
🔘старшую Cotype Pro 3 размером 27 млрд параметров
🔘и облегченную Cotype Light 3 на 9 млрд параметров
Для тестов MWS AI рассматривала пять вариантов китайских чипов. И, как пишут Ведомости, в отдельных сценариях инференса ПАК на базе китайских GPU показал результаты, сопоставимые с системами на базе Nvidia H100.
▶️Как рассказал руководитель направления развития технологий ИИ в продуктах «Скала^р» группы Rubytech Антон Юдин, сейчас компания дорабатывает ПАК после пилотирования. Первая версия будет ориентирована преимущественно на инференс, возможность дообучения компания планирует добавить позднее.
Минпромторг мечтает о локализации
Буквально вчера появилась информация о том, что Минпромторг совместно с разработчиками и производителями электроники прорабатывает возможность введения балльной системы для оценки локализации чипов, применяемых в системах ИИ. Мы вам рассказывали, в чем задумка авторов идеи.
🔽 Сейчас над отечественными ИИ‑ускорителями работают, например, «Байкал Электроникс» и НТЦ «Модуль». Но выпуск современного мощного чипа для ИИ по топологии 12–14 нм в России на сегодняшний день невозможен из‑за отсутствия фабрик полного цикла. Так или иначе придется использовать чипы, произведенные в Китае.
™️ МашТех в Telegram | в MAX
▶️Разработчик ИИ-моделей MWS AI (МТС) и Rubytech уже совместно проводят испытания российских больших языковых моделей на ПАКах с китайскими GPU, которые должны стать альтернативой ИИ-чипам Nvidia. Их полноценный коммерческий запуск планируется уже в следующем году.
Запускали на ПАКе две модели MWS AI:
🔘старшую Cotype Pro 3 размером 27 млрд параметров
🔘и облегченную Cotype Light 3 на 9 млрд параметров
Для тестов MWS AI рассматривала пять вариантов китайских чипов. И, как пишут Ведомости, в отдельных сценариях инференса ПАК на базе китайских GPU показал результаты, сопоставимые с системами на базе Nvidia H100.
▶️Как рассказал руководитель направления развития технологий ИИ в продуктах «Скала^р» группы Rubytech Антон Юдин, сейчас компания дорабатывает ПАК после пилотирования. Первая версия будет ориентирована преимущественно на инференс, возможность дообучения компания планирует добавить позднее.
Минпромторг мечтает о локализации
Буквально вчера появилась информация о том, что Минпромторг совместно с разработчиками и производителями электроники прорабатывает возможность введения балльной системы для оценки локализации чипов, применяемых в системах ИИ. Мы вам рассказывали, в чем задумка авторов идеи.
🔽 Сейчас над отечественными ИИ‑ускорителями работают, например, «Байкал Электроникс» и НТЦ «Модуль». Но выпуск современного мощного чипа для ИИ по топологии 12–14 нм в России на сегодняшний день невозможен из‑за отсутствия фабрик полного цикла. Так или иначе придется использовать чипы, произведенные в Китае.
™️ МашТех в Telegram | в MAX












