ADDENDUM 2
Hier ist ein Q/A-Test mit einem Whitepaper (~20k Tokens), das mittels Prompt Injection vs. RAG in den Kontext gesetzt wurde. (Inhalt und Einstellungen waren so weit wie möglich gleich. LLM = Gemini-1.5-Pro)..
ANALYSE:
RAG ist inkonsistent.. findet manchmal die Antwort, manchmal fehlt sie.
Prompt-Injection-Erfolg:
RAG-Fehler:
RAG-Anfragetrace:
Ich habe es geschafft, dass RAG Fragen aus dem Dateiupload am Anfang des Dokuments beantwortet, und mit Überredungskunst kann es sich vielleicht auch den mittleren und hinteren Teil ansehen.. es ist also kein Totalausfall.. aber es ist inkonsistent… konsistent oder schwieriger zu handhaben, meiner Meinung nach : )