Кстати, с квантизацией Llama 4 в оригинальной репе какой-то наеб.

Скрипт квантизации quantize.py ссылается на несуществующий quantize_impls.

Правда, учитывая, что это RTN квантизация, которая раскоает модель в негодность в 4-х битах, да и вроде обещают QAT модельки, может и пох.