Товарищ (кофаундер) работает над фичей в souz.app, чтобы агента можно было переводить в ambient-режим.
Агент слушает всё и время от времени кидает предложение помочь.
Я сперва был скептически настроен, но оказалось интересно. Можно включать режим и вести брейншторм с кем-то. Агент будет вникать в суть того, что уже успели обсудить, и начнёт накидывать идеи.
Всё работает локально и бесплатно: распознавание — от макбука, LLM — gemma 4b. Целимся в 1b модели вроде MiniCPM5-1B.
В этом плане очень помогло то, что когда-то в прошлом мы отлаживались на GigaChat Lite, и теперь нормально функционируем и на очень маленьких моделях.
Осталось найти грань между проактивностью и навязчивостью.
Если есть идеи по фиче или запросы других фичей, пишите тут в чат или в личку.
Post #177
1.11K
- 🔥 10
- 👍 5
- 🤝 3
- ❤ 1