Generative Modeling via Drifting
[Статья] [Ноутбук]

Картинки (да и все что угодно) хочется генерить быстро и качественно. На текущий момент успешная малошаговая генерация обычно достигается через дистилляцию (обычно с адверсариальным лоссом), или специализированное обучение (MeanFlow).

Тем не менее одношаговые модели все еще заметно отстают от многошаговых.

И в рассматриваемой работе авторы из MIT и Гарварда, среди которых зателся небезызвестный Кайминь Ге, предложили новую генеративную парадигму под названием Drifting (дрейф), достигающую state-of-the-art качества при одношаговой генерации.