👀 Недавно отправлял статью про динамический размер кодовой книги для VQ-VAE. Там используется алгоритм дифференцируемого k-means. Звучит интересно и я решил поделиться статьей здесь.

Идея заключается в умном выборе центроидов для весов на границе кластеров) Мы будем выбирать значения весов так, чтобы качество модели при кластеризации весов не ухудшалось (так мы хотим). Достигается это за счет создания дифференцируемой функции выбора центроидов для весов модели. Функция будет учитываться при оптимизации функции потерь и так модель будет стабильнее после кластеризации весов.

Идея звучит весьма полезно, но имплементацией у данной работы я не нашел. Также было с RAQ-VAE. Сам сделаю тогда)

🔣 Статья от Apple на ICLR 2022.

#papers #inference_optimization