Diese Anleitung behandelt die Seite zur KI-Nutzung, die Teil des Discourse AI-Plugins ist.
Erforderliches Benutzerniveau: Administrator
Die Seite zur KI-Nutzung wurde für Administratoren entwickelt, um zu verstehen, wie die Community die Discourse AI-Funktionen im Laufe der Zeit nutzt. Dies kann in Schätzung der Kosten für die Verwendung von LLMs für Discourse AI hilfreich sein.
Funktionen
- Zeitrahmen: 24 Stunden, letzte Woche und benutzerdefinierte Daten
- Auswählbar nach Discourse AI-Funktion
- Auswählbar nach aktivierten LLMs
- Zusammenfassende Vorschau
- Gesamtanfragen: Alle Anfragen an LLMs über Discourse
- Gesamt-Token: Alle Token, die beim Auffordern eines LLM verwendet werden
- Anfrage-Token: Token, die verwendet werden, wenn das LLM versucht zu verstehen, was Sie sagen
- Antwort-Token: Token, die verwendet werden, wenn das LLM auf Ihre Aufforderung antwortet
- Cache-Token: Zuvor verarbeitete Anfrage-Token, die das LLM zur Optimierung von Leistung und Kosten verwendet
- Interaktives Balkendiagramm zur Darstellung der Token-Nutzung
- Token- und Nutzungsanzahl pro Discourse AI-Funktion
- Token- und Nutzungsanzahl pro LLM
Aktivierung der KI-Nutzung
Voraussetzungen
Damit Daten angezeigt werden, müssen Sie mindestens ein Large Language Model (LLM) von einem Anbieter konfigurieren und Mitglieder müssen die Discourse AI-Funktionen nutzen.
Um loszulegen, können Sie LLMs über die Discourse AI - Einstellungen für Large Language Model (LLM) konfigurieren.
- OpenAI
- Anthropic
- Azure OpenAI
- AWS Bedrock mit Anthropic-Zugang
- HuggingFace Endpoints mit Llama2-ähnlichem Modell
- Self-Hosting eines OpenSource LLM
- Google Gemini
- Cohere
Konfiguration
- Gehen Sie zu den
Admin-Einstellungen →Plugins→AI→ TabSettingsund stellen Sie sicher, dass es aktiviert ist (discourse ai enabled). - Navigieren Sie im AI-Plugin zum Tab
Usage.
Technisches FAQ
Was sind Token und wie funktionieren sie?
- Token sind die Grundeinheiten, die LLMs zum Verstehen und Generieren von Text verwenden. Nutzungsdaten können sich auf die Kosten auswirken. Weitere Informationen finden Sie unter Schätzung der Kosten für die Verwendung von LLMs für Discourse AI.