LLaDA2.0 — способ превратить обычные LLM в diffusion-модели без обучения с нуля.
Что делают:
существующую autoregressive модель «перепрошивают» через 3-фазное обучение, сохраняя все знания, но меняя способ генерации текста.
Что это даёт:
- параллельный вывод вместо токен-за-токеном
- выше скорость и эффективность
- лучшее качество на больших масштабах
Результаты:
- LLaDA2.0-mini — 16B
- LLaDA2.0-flash — 100B
Обе модели превосходят предыдущее поколение по качеству и производительности.
Почему это важно:
это шаг к быстрым LLM без главного узкого места autoregressive генерации.
Paper: https://github.com/inclusionAI/LLaDA2.0/blob/main/tech_report.pdf
HuggingFace: https://hf.co/collections/inclusionAI/llada-20
Post #1670
1.71K

- ❤ 4
- 👍 1
- 🔥 1