Производительность AMD ROCm и Vulkan для локального ИИ-сервера Lemonade с Llama.cpp

Недавно читатель Phoronix Premium поинтересовался возможностью увидеть новые тесты производительности ИИ для бэкендов Vulkan и AMD ROCm, чтобы понять, как обстоят дела сегодня. Ниже представлены свежие результаты тестирования на двух разных системах с графикой AMD Radeon при использовании локального ИИ-сервера Lemonade, а также сравнение бэкендов ROCm и Vulkan для Llama.cpp.

Читать полностью

#Phoronix
@linux_potok