Ich richte Discourse AI auf meinem Forum ein und habe einen AI-Bot/Agenten, der mit Gemini 2.5 Flash über LiteLLM und Google Vertex AI arbeitet.
Der Bot funktioniert, aber ich habe ein Problem mit seinem Anwendungsbereich.
Zum Beispiel: Mein Forum ist eine geschäftsfokussierte Community. Wenn ich den Bot frage:
“Wem gehört Uber?”
beantwortet er die Frage mit dem allgemeinen Wissen des LLM, obwohl die Frage nichts mit meinem Forum zu tun hat.
Dies führt zu zwei Problemen:
- Ich möchte, dass der Bot als forumspezifischer Wissensassistent fungiert, nicht als allgemeine Gemini-/ChatGPT-Schnittstelle.
- Ich möchte nicht, dass Nutzer beliebige Fragen stellen und meine LLM-Credits verbrauchen.
Ideal wäre folgender Ablauf:
Nutzer stellt Frage
↓
Ist sie für dieses Forum relevant?
↓
NEIN → höflich ablehnen
↓
JA
↓
Forumswissen durchsuchen
↓
Antwort basierend auf Forumsinhalten generieren

