最近又被拉着写 prompt。大前提是,隔壁组的数据出了问题,他们期望用 ChatGPT API 来批量清洗数据,他们在 ChatGPT UI 上做了测试,然后丢到我们手上。
我了解了需求之后,没看他们的 prompt,直接凭经验开始做各种尝试,最后试出了一个还不错的 prompt。于是封装成函数之后,交给后端的同事集成到流水线上。
我们跑了一小批数据,结果还不错,但是对照着隔壁组的要求,似乎不完全一致。于是后端同事直接把隔壁组的 prompt 搬进流水线里,又测试了一遍,结果和 ChatGPT UI 上的结果完全不一样。我们猜测是因为 ChatGPT UI 上还有一些后处理的逻辑。又测试了一些 prompts 之后,最后还是我提供的 prompts 效果最好。
Takeaways:
1. ChatGPT UI 和 ChatGPT API 的 prompts 不完全一致,前者有后处理逻辑,后者应该是模型直接的输出结果;
2. prompts 的确需要不断地尝试,所以 prompt engineering 可能真的是一门学问。
Post #122
447
DPS Build 围绕着 ChatGPT API 写了两周代码,记录一些想法: 1. ChatGPT API 自 gpt-turbo-3.5 发布以来,做了大大的简化。只需要在请求里写两个参数:model 和 messages,其他参数都被隐藏了。 2. 需要调整输出的话,只需要在 messages 写 prompts,通过自然语言就能控制模型的输出。大大降低了开发难度,又给输出添加了无限可能 3. 不仅 API 的交互得以大大简化,围绕着 ChatGPT API 开发的话,也可以大大简化整个 NLP 项目的开发。它…
- 👍 9