第一个方案已经写完了,结果很迷。有的时候答案非常棒,有的时候完全找不到北。
目前可能的优化空间:
1. 把计算相似度的算法调整,默认是 cosine;
2. 把文本数据进一步清洗,尽可能去除噪音数据;
3. 调整 embedding 的 chunk 的大小
4. 准备更多高质量的文本数据。
Post #69
386
DPS Build 这几天在看如何用自己的语料库结合 ChatGPT API 来使用,目前找到两个方案: 1. 利用最新的 gpt-turbo-3.5 模型:先建立 doc embedding,然后利用 query embedding,通过文本相似度从 doc embddding 中找到和 query embedding 最接近的数据,然后讲这些数据作为 context 填写在 prompt 里一起发起请求; 2. 利用之前的 davinci / ada 模型:先建立 doc embedding,然后将这一 embedding…