ADDENDUM 2
Voici un test Q/R avec un livre blanc (~20k tokens) mis en contexte via injection de prompt vs RAG. (le contenu et les paramètres étaient aussi similaires que possible. LLM = Gemini-1.5-Pro)..
ANALYSE :
RAG est incohérent… trouve parfois la réponse, parfois la manque.
Succès de l’injection de prompt :
Échec du RAG :
Trace de la requête RAG :
J’ai réussi à faire répondre le RAG aux questions du fichier téléchargé au début du document, et avec un peu de persuasion, il peut regarder le milieu et la fin… donc ce n’est pas un échec total… mais c’est incohérent… de manière constante, ou plus difficile à utiliser selon moi : )