针对长上下文LLMs的提示注入作为RAG的替代方案？

[StevePlex (Steve King)]

ADDENDUM 2

这是对白皮书（约 20k 标记）的问答测试，通过提示注入与 RAG 进行情境化。（内容和设置尽可能相同。LLM = Gemini-1.5-Pro）。

分析：
RAG 不稳定……有时能找到答案，有时找不到。

---

提示注入成功：

---

RAG 失败：

---

RAG 请求跟踪：

我确实让 RAG 回答了文档开头文件上传中的问题，并且通过引导，它可能会查看中间和结尾部分……所以并非完全失败……但它是不稳定的……不稳定，或者 IMO 更难处理 : )