추가 사항 2
여기에는 프롬프트 인젝션 vs RAG를 통해 컨텍스트에 화이트 페이퍼(약 20k 토큰)를 배치하여 수행한 Q/A 테스트가 포함되어 있습니다. (콘텐츠와 설정은 가능한 한 동일하게 유지했으며, LLM = Gemini-1.5-Pro)..
분석:
RAG는 일관성이 없습니다. 때로는 답변을 찾기도 하고, 때로는 놓치기도 합니다.
프롬프트 인젝션 성공:
RAG 실패:
RAG 요청 추적:
저는 문서 시작 부분에 업로드된 파일에 대한 질문에 RAG가 답변하도록 했습니다. 또한 유도하면 문서 중간과 끝부분도 참조할 수 있었습니다. 따라서 완전한 실패는 아닙니다. 하지만 일관성이 없습니다… 제 생각에는 일관성 있게, 또는 더 어렵게 다루어야 하는 것 같습니다 : )