Post #201112
4.15K
Специалисты МФТИ разработали алгоритм HARP для сжатия больших языковых моделей, который позволяет вдвое ускорить работу ИИ-систем и снизить потребность в вычислительных мощностях дата-центров, пишут «Известия». Технологию протестировали на нейросетях Llama и Qwen: при максимально жестком сжатии количество ошибок сократилось на 15%. Сам алгоритм и уже оптимизированные с его помощью модели выложены в открытый доступ.