@falco, fortsetzung dieses Themas aus dem letzten Thread, da es automatisch geschlossen wurde. Leider funktioniert die KI-Zusammenfassung nach dem Upgrade auf 3.3.0 beta1 überhaupt nicht mehr, d.h. der Button zum Zusammenfassen ist vollständig verschwunden. Ich sehe die Schaltflächen nur noch bei Themen, die zuvor mit KI zusammengefasst wurden, aber nicht mehr bei neuen Themen (ich habe die Schwellenwerte für die Themenzusammenfassung überprüft).
Wenn ich mir die Protokolle ansehe, sehe ich diesen Fehler, der neu ist und vorher nicht da war:
Nachricht
DiscourseAi::Completions::Endpoints::Gemini: Status: 429 - Body: {
"error": {
"code": 429,
"message": "Kontingent überschritten für Kontingentmetrik 'Generate Content API requests per minute' und Limit 'GenerateContent request limit per minute for a region' des Dienstes 'generativelanguage.googleapis.com' für Verbraucher 'project_number:184805424415'.",
"status": "RESOURCE_EXHAUSTED",
"details": [
{
"@type": "type.googleapis.com/google.rpc.ErrorInfo",
"reason": "RATE_LIMIT_EXCEEDED",
"domain": "googleapis.com",
"metadata": {
"quota_limit_value": "0",
"quota_location": "us-east2",
"quota_metric": "generativelanguage.googleapis.com/generate_content_requests",
"service": "generativelanguage.googleapis.com",
"quota_limit": "GenerateContentRequestsPerMinutePerProjectPerRegion",
"consumer": "projects/184805424415"
}
},
{
"@type": "type.googleapis.com/google.rpc.Help",
"links": [
{
"description": "Fordern Sie ein höheres Kontingentlimit an.",
"url": "https://cloud.google.com/docs/quota#requesting_higher_quota"
}
]
}
]
}
}
Backtrace
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:93:in `block (2 levels) in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2353:in `block in transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http/response.rb:320:in `reading_body'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2352:in `transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2306:in `request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:19:in `block in request_with_mini_profiler'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/mini_profiler/profiling_methods.rb:50:in `step'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:18:in `request_with_mini_profiler'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:91:in `block in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:1570:in `start'
Umgebung
HTTP HOSTS: xxx.com
Es scheint, dass es sich um einen sehr gut beschriebenen Fehler handelt, sie haben Ihnen sogar einen Ort gegeben, an dem Sie eine Quota-Erhöhung beantragen können.
Meine Frage ist, warum ich eine Ratenbegrenzungsmeldung erhalte, obwohl ich das Limit auf 50 Anfragen pro Minute (Gemini hat ein Limit von 60 pro Minute) gemäß den zuvor von Ihnen bereitgestellten Anweisungen festgelegt habe?
Diese beschränken die automatisierten Hintergrundaufrufe, aber Sie müssen die vom Benutzer initiierten Aufrufe zusätzlich hinzufügen. Weitere Informationen finden Sie in den Protokollen auf GCP.
Danke. Im Moment versuche ich, den Zugriff auf KI nur auf Mitarbeiter zu beschränken. Ich habe alle KI-Einstellungen überprüft und die Vertrauensstufen, wo verfügbar, auf Mitarbeiter beschränkt.
Ich vermute, es gibt einige Module, die keine Vertrauensgrenzen haben (Suche? Zusammenfassung?). Können Crawler oder nicht angemeldete Benutzer diese KI-Funktionen aufrufen? Es ist eine kleine Website, daher weiß ich, dass es keine angemeldeten Benutzer sind, die die APIs verwenden.
Außerdem verstehe ich nicht, warum die Schaltfläche „Mit KI zusammenfassen“ verschwunden ist und wie ich sie zurückbekomme. Jede Einsicht hier wäre willkommen.
Nur zur Information: Welche Gruppen die KI zur Zusammenfassung von Themen nutzen können, wird durch die Einstellung custom summarization allowed groups gesteuert. Sie könnten diese Einstellung überprüfen und sehen, ob die erwarteten Gruppen dort aufgeführt sind?
Ich glaube, für die semantische Suche ist die KI-Leistung bei der Erstellung der Einbettungen enthalten, sodass die Leute nach Abschluss dieses Vorgangs die KI-Suche ohne weitere Aufrufe des KI-Anbieters selbst nutzen können. Jetzt bin ich mir da nicht mehr so sicher.
Um das abzurunden, gab es ein Problem mit Gemini. Die Quoten-Seite ist leer und zeigt keine Metriken für den API-Schlüssel an.
Die Kurzfassung der Lösung war, den API-Schlüssel zu löschen und einen neuen zu generieren. Jetzt kann ich die Metriken-Nutzung für den neuen API-Schlüssel/Projekt sehen und es funktioniert gut. Danke Falco.
Hier ist weiteres Feedback. Nachdem der Schlüssel nicht mehr funktionierte, ersetzte ich ihn durch einen neuen Schlüssel, aber die KI-Funktionen funktionierten nicht, der BOT-Helfer (Forum- und Einstellungs-Explorer – keine Antwort von beiden und Fehler in den Protokollen) funktionierte nicht, die Schaltfläche „KI-Zusammenfassung“ verschwand usw.
Ich habe versucht, das KI-Modul in den Admin-Einstellungen zu deaktivieren/aktivieren, den Container mit ./launcher stop app zu stoppen und zu starten, aber das hat auch nicht geholfen. Ich musste die gesamte Maschine neu starten, damit die KI-Funktionen wieder funktionierten.
EDIT: Es scheint, dass die Einstellung von custom summarization allowed groups auf Everyone die Schaltfläche „KI-Zusammenfassung“ für alle (einschließlich des Personals) deaktiviert @JammyDodger
Ja, diese Pseudo-Gruppe everyone ist knifflig. Ich glaube, es gibt Pläne, sie bald aus diesen Arten von Einstellungen zu entfernen, um zu verhindern, dass sie mehr Leute irreführt. TL0 ist die Gruppe, die dafür funktionieren würde.
TL0 funktioniert nicht für Benutzer, die nicht angemeldet sind. Wenn wir also anonymen Benutzern die Option „KI zusammenfassen“ zur Verfügung stellen möchten, funktioniert dies mit TL0 nicht.