Dieser Leitfaden erklärt, wie Sie Nutzungsquoten für Large Language Models (LLMs) in Discourse AI konfigurieren und verwalten.
Erforderliches Benutzerlevel: Administrator
Zusammenfassung
LLM-Nutzungsquoten ermöglichen es Administratoren, den Verbrauch von KI-Ressourcen zu kontrollieren und zu überwachen, indem sie Limits für die Token-Nutzung und Interaktionen für verschiedene Benutzergruppen festlegen. Dies trägt zur Kosteneffizienz bei und gewährleistet gleichzeitig einen fairen Zugang zu KI-Funktionen in Ihrer Community.
Konfiguration
Zugriff auf Quoteneinstellungen
- Navigieren Sie zum Admin-Panel Ihrer Site
- Gehen Sie zu
Admin > Plugins > Discourse AI > LLMs - Wählen Sie das LLM-Modell aus, das Sie konfigurieren möchten
Quoten einrichten
Für jede Benutzergruppe können Sie Folgendes konfigurieren:
- Maximale Token-Nutzung
- Und/oder Maximale Anzahl von KI-Interaktionen
- Und/oder Maximale Kosten
- Dauer des Reset-Zeitraums
Für jede Quote muss mindestens eines der beiden folgenden Limits gesetzt werden: maximale Tokens oder maximale Nutzungen.
Hinweis: Der Gruppe „everyone“ (alle) kann keine Quote zugewiesen werden. Sie müssen spezifische Gruppen verwenden (z. B. Trust-Level-Gruppen oder benutzerdefinierte Gruppen).
Daueroptionen
Wählen Sie aus voreingestellten Reset-Zeiträumen:
- 1 Stunde
- 6 Stunden
- 24 Stunden
- 7 Tage
- Benutzerdefinierte Dauer (angegeben in Stunden)
Nutzungsüberwachung
Statistiken anzeigen
Administratoren können den Token- und Nutzungsverbrauch unter folgender Adresse überwachen: https://SITENAME/admin/plugins/discourse-ai/ai-usage
- Navigieren Sie zu
Admin > Plugins > Discourse AI - Wählen Sie den Tab „Usage“ (Nutzung)
- Filtern Sie nach Datumsbereich, Benutzergruppe oder spezifischen Metriken
Benutzererfahrung
Quotenbenachrichtigungen
Benutzer erhalten klare Rückmeldungen, wenn sie sich der Quotenbegrenzung nähern oder diese erreichen:
- Aktueller Nutzungsstatus
- Zeit bis zum nächsten Quoten-Reset
Fehlermeldungen
Wenn eine Quote überschritten wird, sehen Benutzer:
- Eine klare Benachrichtigung, dass das Quotenlimit erreicht wurde
- Die verbleibende Zeit bis zum nächsten Quoten-Reset
Best Practices
- Mit Vorsicht beginnen: Starten Sie mit niedrigeren Quoten und passen Sie diese basierend auf den tatsächlichen Nutzungsmustern an.
- Zuteilung nach Gruppen: Weisen Sie verschiedene Quoten basierend auf den Anforderungen und Rollen der Benutzergruppen zu.
- Regelmäßige Überwachung: Überprüfen Sie die Nutzungsmuster, um die Quoteneinstellungen zu optimieren.
- Klare Kommunikation: Informieren Sie die Benutzer über Quotenlimits und Reset-Zeiträume.
Häufige Probleme und Lösungen
Problem: Benutzer erreichen häufig die Limits
Lösung: Erwägen Sie Folgendes:
- Erhöhen Sie die Quotenlimits für bestimmte Gruppen.
- Verkürzen Sie den Reset-Zeitraum.
- Erstellen Sie spezielle Gruppen für Benutzer mit hohem Verbrauch.
Problem: Unbenutzte Quoten
Lösung:
- Passen Sie die Limits nach unten an, um die Ressourcenzuteilung zu optimieren.
- Überprüfen Sie die Gruppenzuordnungen, um sicherzustellen, dass die Quoten den Benutzerbedürfnissen entsprechen.
FAQs
F: Werden ungenutzte Quoten übertragen?
A: Nein, die Quoten werden am Ende jedes Zeitraums vollständig zurückgesetzt.
F: Können verschiedene LLM-Modelle unterschiedliche Quoten haben?
A: Ja, Quoten können für jedes LLM unabhängig konfiguriert werden.
F: Was passiert, wenn für ein einzelnes LLM mehrere Quoten festgelegt sind?
A: Quoten sind gruppenbasiert und werden pro Benutzer angewendet. Damit ein Benutzer die Quote überschreitet, muss er die Quote in allen Gruppen überschreiten. Das bedeutet, dass wenn Sie Administratoren eine sehr lockere Quote und Trust-Level-1-Benutzern eine restriktivere Quote zuweisen, die Admin-Quote für Administratoren gilt.
F: Was passiert, wenn für ein LLM keine Quote festgelegt ist?
A: Es passiert nichts Besonderes; die gesamte LLM-Nutzung wird nicht gemessen.
F: Was ist, wenn ich für verschiedene Funktionen unterschiedliche Quoten möchte?
A: Discourse AI ermöglicht es Ihnen, mehrere LLMs zu definieren, die alle denselben Endpunkt kontaktieren und sogar Schlüssel wiederverwenden können. Wenn Sie also eine Quote für den AI Helper und eine andere für den AI Agent festlegen möchten, definieren Sie 2 LLMs.
F: Wie entferne ich eine Quote?
A: Löschen Sie die Quote auf der Konfigurationsseite des LLM-Modells. Es gibt keine Möglichkeit, eine Quote vorübergehend „pausieren“ oder zu deaktivieren – sie muss gelöscht und neu erstellt werden.