Intel обновляет сборку LLM-Scaler-vLLM для vLLM 0.26 и другие улучшения

Для тех, кто ищет самый простой способ быстро запустить vLLM на графических процессорах Intel Arc (Pro), сегодня вышла новая бета-версия проекта Intel LLM-Scaler-vLLM для установки vLLM на основе Docker, готовой к использованию на графических процессорах Intel...

Читать полностью

#Phoronix
@linux_potok