Sto configurando Discourse AI sul mio forum e ho un Bot/Agente AI che funziona con Gemini 2.5 Flash tramite LiteLLM e Google Vertex AI.
Il bot funziona, ma ho un problema relativo al suo ambito di applicazione.
Ad esempio, il mio forum è una community focalizzata sul business. Se chiedo al bot:
“A chi appartiene Uber?”
risponde alla domanda utilizzando la conoscenza generale dell’LLM, anche se la domanda non ha nulla a che fare con il mio forum.
Questo crea due problemi:
- Voglio che il bot funzioni come un assistente di conoscenza specifico per il forum, non come un’interfaccia generica per Gemini/ChatGPT.
- Non voglio che gli utenti possano fare domande arbitrarie e consumare i miei crediti LLM.
Idealmente, vorrei:
L’utente fa una domanda
↓
È pertinente a questo forum?
↓
NO → rifiuto educatamente
↓
SÌ
↓
Cerca nella conoscenza del forum
↓
Genera la risposta basandosi sui contenuti del forum

