Wenn Sie bestimmten Mitgliedern Zugang zu KI gewähren, was hindert sie daran, sie ständig für ihre Arbeit usw. zu nutzen? Gibt es eine Möglichkeit, die Anzahl der Tokens zu begrenzen, die sie pro Tag oder Woche usw. verwenden können?
Es gibt keine solchen Einschränkungen bei der Verwendung von Discourse AI, daher ist die Antwort schlichtweg nichts.
Die andere Lösung, Chatbot, hat wöchentliche Limits für die Anzahl der Anfragen, die gestellt werden können.
Sie müssen also wählen, welche besser zu Ihnen passt. Ich benutze beide. Chatbot für allgemeinere Zwecke in meinem Forum [1] und DAI ist begrenzt basierend auf einer Gruppe und (abgestimmten) Zwecken unter Verwendung von Personas. Ich nutze also gewissermaßen die besten Seiten von beiden, da sich diese beiden nur teilweise überschneiden.
allgemein bedeutet Art der Fragen, ansonsten ist es spezialisierter abgestimmt ↩︎
4 „Gefällt mir“
Dies wird als Feature verschoben. Wir beabsichtigen, ein Quoten-System hinzuzufügen, es taucht immer wieder auf.
Ich denke darüber nach, einfach eine Gruppenauswahl mit Ein-/Ausgabe-Zählungen und Dauer für jede LLM hinzuzufügen, damit Sie optionale Quoten hinzufügen können.
7 „Gefällt mir“
Ich brauche jetzt benutzerbezogene (nicht gruppenbezogene) Ratenbegrenzungen, also versuche ich, meine eigene vorläufige Lösung zu entwickeln. Die Begrenzung der Anzahl von Prompts anstelle von Tokens wäre in Ordnung. Ich denke an einen Webhook bei post_event, der, wenn es sich um eine PM handelt und ein Benutzer an einen Bot postet, ein benutzerdefiniertes Feld ai_query_count beim Benutzer inkrementiert. Ich glaube, dieser Teil würde funktionieren.
Was mache ich dann, wenn der Zähler zu hoch wird? Ich habe versucht, etwas JavaScript in Admin > Anpassen > Kopfzeile einzufügen, das den Zähler des Benutzers liest und versucht, die Schaltfläche “Antworten” zu deaktivieren, wenn der Zähler zu hoch ist, aber ich kann keinen Selektor finden, um die Schaltfläche zu bekommen.
Oder vielleicht gibt es einen besseren Ansatz. Jede Idee ist willkommen!
Technisch gesehen sind sie gleich, Sie erstellen einfach eine Gruppe von 1.
Dies sollte diese Woche eintreffen und das Problem lösen:
4 „Gefällt mir“
Ich verstehe, dass Gruppenkontingente gut für die Budgetverwaltung sind, aber was hindert eine Person daran, zu Beginn des Zeitraums das gesamte Kontingent der Gruppe zu beanspruchen? EDIT: Und es potenziell für ihre eigene, nicht verwandte Arbeit zu beanspruchen, wie in der ursprünglichen Frage gefragt?\n\n[quote="Sam Saffron, post:5, topic:330500, username:sam"]\nman erstellt einfach eine Gruppe von 1\n[/quote]\n\nWir haben 3000 Mitglieder. Also 3000 Gruppen erstellen? Wird das /g nicht ruinieren?
2 „Gefällt mir“
Ich bin etwas verwirrt wegen dieser Frage: Kontingente werden jetzt nach Gruppe definiert und pro Benutzer angewendet.
Wenn einer Gruppe 1000 Token erlaubt sind, bedeutet das, dass kein einzelner Benutzer mehr als 1000 Token erlaubt sind.
Das Kontingent wird nicht zwischen Benutzern geteilt. Es ist nicht gegen die Einführung des Konzepts eines absoluten Kontingents, falls wir es später benötigen.
4 „Gefällt mir“
Oh. Dann habe ich das völlig missverstanden. Das Feature besagt:
Festlegen von Token- und Nutzungslimits pro Gruppe mit konfigurierbaren Dauern
Für mich klingen „Limits pro Gruppe“ so, als hätte die Gruppe als Ganzes ein Limit.
Das ist also genau das, wonach ich gesucht habe – ich werde auf die neue Funktion warten.
2 „Gefällt mir“
Ich werde diese Konfiguration am kommenden Mittwoch einem Praktikanten auf einer selbst gehosteten Discourse-Site zuweisen. Muss ich ihm sagen, dass er von einem Hauptzweig auf GitHub ziehen soll? Oder reicht es aus, wenn er diese Zeile in app.yml hinzufügt?
hooks:
after_code:
- exec:
cd: $home/plugins
cmd:
- git clone https://github.com/discourse/docker_manager.git
...
...
- git clone https://github.com/discourse/discourse-ai.git
Ich möchte, dass die Funktionen des Discourse AI-Plugins nur registrierten Benutzern zur Verfügung stehen. Ist das das Standardverhalten?
Es scheint mir nicht, dass die KI-gestützte Suche eine Steuerung pro Gruppe hat???
Für den KI-Bot denke ich darüber nach, ihn auf Vertrauen 0 zu setzen und ein Token-Limit pro Gruppe festzulegen, das mit wachsendem Vertrauen steigt. Ist das eine gute Strategie?
Dies wurde zusammengeführt. Ich muss nur noch etwas Zeit für die Dokumentation aufwenden.
3 „Gefällt mir“
@sam Vielen Dank für Ihre Arbeit. Der Praktikant hat heute Quoten für jede Vertrauensstufe eingerichtet.
Er hat es noch nicht vollständig getestet.
Wenn das Gruppengrenzenlimit für den Tag erreicht ist, erhält der Benutzer eine Nachricht? Kann diese Nachricht angepasst werden?
Ich möchte, dass die KI nützlich ist, uns aber vor Missbrauch schützt. Wenn eine Person mehr KI-Suche nutzen möchte, möchte ich ihr eine Notiz senden, dass sie einen Menschen kontaktieren kann, um das Limit erhöhen zu lassen. Mitarbeiter können sie dann manuell in eine vorkonfigurierte Gruppe verschieben.
In Ihrem Beispiel stelle ich fest, dass Sie Amazon Nova Pro v1 verwenden. Der Praktikant hat unsere Implementierung mit OpenAI gpt-o4 eingerichtet, wahrscheinlich nur wegen der Markenbekanntheit.
Der Praktikant versucht noch, die Effektivität im Verhältnis zu den Kosten verschiedener Modelle herauszufinden. Jeder Rat von jemandem im Forum wäre wunderbar.
1 „Gefällt mir“
Ja, das passiert jetzt
Sehr minimal, wir verwenden eine übersetzte Zeichenkette, sodass Sie die Übersetzung ändern können.
Schließe dies ab, da es abgeschlossen ist. Stellen Sie gerne neue Fragen zu KI!
1 „Gefällt mir“