МФТИ разработал технологию HARP для снижения потребности нейросетей в ресурсах.
HARP снижает требования моделей к вычислительным ресурсам и памяти дата-центров при минимальной потере точности, сообщили «Известия». Технология подбирает оптимальные преобразования для каждого слоя модели, после чего она работает быстрее и занимает меньше памяти — переобучать нейросеть не нужно. При максимально жёстком сжатии моделей Llama и Qwen3 ошибка сократилась на 12-15%. HARP и сжатые с его помощью нейросети выложены в открытый доступ.
Post #324742
1
Forwarded from Fineconomics