说得有理，确实如此…… IMO 没有简单的答案。
我猜这取决于用例。
RAG 对某些应用程序效果很好，但对于其他相当确定性的目标用例（例如，客户问答、支付、医疗等），在过去一年中，我和其他人一直在 RAG 向量搜索方面遇到准确性问题。也就是说，机器人要么会遗漏内容，要么会编造内容（在信息检索方面召回率低、精确率低），这一点已被斯坦福大学、谷歌等广泛记录。
那么问题就来了……如果可以将整个语料库提供给 LLM，为什么还要给它一大堆块呢？至少在使用上下文注入时，当 LLM 不准确时，你需要调整的东西会更少……
好吧，这对于庞大的文档/代码库不起作用……但对于中小型内容库来说，到目前为止它似乎效果很好……我正在做一个项目来正式测试这一点…… 很快会有更多信息……谢谢。
附注：——为了让事情更有趣……我在上下文注入+微调方面取得了不错的成果……并且有新兴的方法结合了 RAG 和上下文注入！……等等等等。
另请参阅：