Intel LLM-Scaler готов к поддержке Muse Glimmer, других LLM и новых функций

Проект Intel LLM-Scaler, который возник в ходе инициативы Project Battlematrix, нацелен упростить запуск генеративного ИИ на видеокартах Arc (Pro) B-Series с такими решениями, как vLLM, ComfyUI, SGLang и другим популярным ИИ программным обеспечением в этой основанной на Docker преднастроенной ИИ-среде. На этой неделе новые релизы LLM-Scaler принесли мгновенную поддержку новых моделей и другие улучшения...

Читать полностью

#Phoronix
@linux_potok