Chip Huyen 写了一篇非常详细的 当下 LLM 产品化总结：

1. 目前的 prompt engineering 大大降低了开发难度，同时也提高了维护成本；
2. 尽管直接调用各种 LLM API 可能会产生天价费用，但是比起自己从零训练模型还是便宜；
3. LLM 输出可能不稳定，需要通过各种方法来降低这种风险，比如在 prompt 中加入更多的例子；
4. LLM 的 latency 可能也是一个潜在问题
5. 总之，这一领域发展得非常快，也许这些经验中的很大一部分在三个月后就没有参考意义了。

https://readwise.io/reader/shared/01gxwbcx0r0bf7tnbcn1nh1nw4