ОКАК
Астра сама себе задает вопросы и сама на них отвечает в стиле "нашего чата", таким образом обходя любые запреты на уровне agent.md и подобных инструкций для llm.
Поэтому, вам нужно гибче настраивать ваши харнессы используя такой простой инструмент, как hook.
И не использовать /goal, если вы реально хотите управлять процессом работы.
Чем больше мы даем агентам автономии, тем больше они начинает выдумывать себе за нас ожидаемое и правильное поведение.
А потом выходит кривая работа, которая вовремя не прошла аудит человеком. Нейронка не хочет остановится, она хочет продолжать и потому симулирует ваши разрешения.
Глубоко.
Post #2186
3.09K

- 👍 26
- 😁 12
- 🔥 8