无广告,手打,比较乱. 我是看代码, 翻到哪写哪. 为了避免任何意义上的广告或泄露行为(基本自用, 不想找麻烦), 我会打码比较多, 见谅.其实基本就是现在 agent 的 harness 框架,大部分都是抄 codex 和 claude code 的理论和方法.
现在当 claude 限速了, 改点小玩意, 会试试自己的. 大任务还是不太放心.
桌面端用 wails 写的.
有时候我会问 claude 它自己有哪些工具,可以放到我的 agent (笑)
先放几个图
主要理论
给 agent 的 tool
这个是基础, 比如
ask_user_choice, memory, call_mcp, workspace, read image, save file, send file等等, 没有 tool 就啥都干不了.调用 tool 的方法
一般是 round trip, 让 agent 可以循环, 下一步做什么让 agent 自己决定.
tool 的反馈
tool 要给 result, 无论任何情况, 比如停止, 暂停, 错误, 成功等等, 不然 agent 无法知道情况, 无法继续.
agent 进程要能后台运行
不能必须在页面才能运行, 以前是通过前端去反馈 result, 给后端持续调用. 发现不行, 如果切换到没挂载组件的任何前端其他页面, 都会导致任务暂停, 不如做本机程序后端去持续进行, 需要用户干预 or 完成时, 发系统级通知.
避免失控,人为干预, 推理记忆
1. agent 要有上限, 每次运行都有交付, 我理想的是以后不设硬上限, 交给 decisions 模型去判断.
2. 人为干预: 重要操作需要人来把控(例如可用 ask_user_choice), 人的指令高于 agent 的规划. 所以人可以主动干预计划, 停止工作等.
3. 推理记忆: 这个不能丢, 不然 agent 老是忘事.思维链和工具调用要对应, 不然会混乱.
四重记忆
这个我没做 harness 框架和桌面端时就做了, 纯网页对话也需要记忆. 之前好像发过贴, 忘了, 基本就是普通的 rag 4 重记忆.
只要不要影响缓存前缀就好了, 不然缓存总是丢成本很高
上下文工程
正好提到缓存, agent 里要注意静态缓存和动态内容, 需要剥离.
● prompt 需要分层组装.
● 上下文压缩要渐进式
● 工具也是渐进披露, 不然一次性塞上下文, 占的太多, 大部分在某些工作中用不上, 还影响注意力.
网页端的话, 需要远程沙箱
网页端也需要提供 office 三件套文件的生成功能, 一般都是 skills+ai 写 python 脚本来实现.
这个脚本, 我是用 远程机器(非项目主机器) + 固定容器(提供接口, 可唤起临时容器) + 临时容器(一次性执行沙箱, 做完销毁) 来跑的.
很有必要, 放本机跑=等死.
本机运行环境
在桌面端安装后一段时间, 安装一个自己用的 python 独立环境. 不用机器上的主 python.
生态互通
claude, codex 的已有工具, 提示词, 通通都要能用, 可以无缝接入.
也就是还懒得做, 不然可以把 claude 的 memory 文档都自动给导入, 更无缝, 严丝合缝.
安全工程
主要就是防止任何情况的外部信息影响 agent 安全. 毕竟 agent 是在本地电脑跑的.
方方面面, 每个环节都需要加.
结语
下面这个图是让 claude 给我写的. 擦, 他说我后端 api 有一些 one-api 的影子, 不能写 api 部分全自研, 改成了"重新设计实现". 很尊重版权和事实了.
实际基本把 one-api 原有代码改了 70%以上了, 居然还能认出来.
----------------------
做这个主要是兴趣, 做了一个能用的工具, 当它帮我写代码和调 mcp 发文章, 在老婆电脑上装一下用于排查电脑故障等等时, 很有成就感.