Исследователи из ВШЭ и Т-Технологий придумали новый способ, как улучшить генерацию текста и кода у нейронок. Разработку показали на ICML 2026.

Исследователи разработали метод G-Star+ — «внутренний редактор» для моделей маскированной диффузии, которые пишут текст и код. Он находит сомнительные токены и перезаписывает их – и всё без полного переобучения модели. Особенно силён метод в режимах быстрой генерации (64–256 шагов), даёт рост качества на математических, научных и кодовых бенчмарках и делает генерацию стабильнее.

Штука полезна для ИИ-ассистентов, автодополнения кода и корпоративных сервисов с небольшими ресурсами 💃

Оригинал работы тут.