Ostris добавил в AI-Toolkit (интерфейс для тренировки лор) страницу для генерации контента.

Движок инференса поддерживает те же популярные открытые модели, что и для трени:

* Картинки: Krea 2, Flux 1/2, Qwen Image 2512, Qwen Image 2.1, SDXL, Z-Image Turbo, итд
* Видео: MiniMax H3, LTXV 2.3 / 2.5, Wan 2.2
* Музыка: Ace-Step 1.5XL, MiniMax Music 3 (тестируется), или Ye2

С любопытного: есть несколько вариантов квантизации для трансформера и текстового энкодера (bf16, int-8 convrot, fp8, qfp8, nvfp4), а также возможность слияния лоры с моделью.

Теперь в одном интерфейсе можно и тренить лоры и генерить контент с их помощью, не перебрасывая чекпоинты в Comfy. Хотя сам комфи с его гибкостью, функционалом, и экосистемой он конечно не заменит. По крайне мере пока нодовый интерфейс комфи под капот не подрубит.

Пока это сырая альфа с минимальными настройками и проблемам со скоростью. Например, fp8 Krea 2 в AI-Toolkit генерит 1024x1024 в 9 шагов за 13 сек на 4090, а в Comfy bf16 в 8 шагов за 5 сек. А 2048x2048 занимает больше минуты или вообще может встать. Но будем следить за ситуацией.

AI-Toolkit удобно запускать и обновлять через AI-Toolkit-Easy-Install.

Гитхаб (AI-Toolkit)
Гитхаб (AI-Toolkit-Easy-Install)