# Iniezione di prompt per LLM a lungo contesto come alternativa a RAG?

**URL:** <https://meta.discourse.org/t/prompt-injection-for-long-context-llms-as-an-alternative-to-rag/309086>\
**Category:** Support\
**Tags:** ai, ai-bot\
**Created:** [22 Maggio 2024, 10:47pm UTC](https://meta.discourse.org/t/prompt-injection-for-long-context-llms-as-an-alternative-to-rag/309086 "2024-05-22T22:47:33Z")\
**Posts on this page:** 1\
**Showing post:** 7

<div class="post-metadata">

**Author:** ![StevePlex](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/steveplex/32/269106_2.png) [@StevePlex](https://meta.discourse.org/u/StevePlex)\
**Post date:** [24 Maggio 2024, 3:59pm UTC](https://meta.discourse.org/t/prompt-injection-for-long-context-llms-as-an-alternative-to-rag/309086/7 "2024-05-24T15:59:24Z")

</div>

ADDENDUM 2

Ecco un test Q/A con un white paper (~20k token) messo in contesto tramite **prompt injection vs RAG**. (contenuto e impostazioni sono stati il più possibile gli stessi. LLM = Gemini-1.5-Pro)..

ANALISI:  
RAG è incoerente.. a volte trova la risposta, a volte la manca.

* * *

:github_check: Successo prompt injection:

 ![image](https://global.discourse-cdn.com/meta/original/4X/3/3/1/331219bb21f759dbd75a5037001864f2452530ca.png)

* * *

❌ Fallimento RAG:

 ![image](https://global.discourse-cdn.com/meta/original/4X/0/2/f/02fa55538484e0193a0ad58d7fc754de57def255.png)

* * *

Traccia richiesta RAG:

 ![image](https://global.discourse-cdn.com/meta/original/4X/2/3/8/2382135ff1be85c31705c690d17766485352e86f.png)

Sono riuscito a far rispondere RAG alle domande dall’upload del file all’inizio del documento e, con qualche sforzo, potrebbe guardare al centro e alla fine.. quindi non è un fallimento totale.. ma è incoerente… costantemente, o più difficile da gestire secondo me : )

---

_[View the full topic](https://meta.discourse.org/t/prompt-injection-for-long-context-llms-as-an-alternative-to-rag/309086)._
