Режим потоковой передачи ответа ИИ
В TurbConf 6.6 ИИ помощник теперь поддерживает запросы в режиме stream. Поэтому он может не дожидаться получения всего ответа, а вывести подсказку уже после приема первой строки. Это позволяет уменьшить время ожидания подсказки ИИ до 50%.
На данный момент потоковый режим реализован для помощников FastCode AI и ИР Адаптер с Напарником 1С. Для режима пользовательского поставщика языковой модели поддержка будет добавлена немного позже.
И еще одна новость - тестовая версия уже доступна для обновления на канале разработчиков.
Post #132
2.28K
- 🔥 14
- 👍 1
- 👏 1