Discourse Chatbot đŸ€–

Unser Bot hat ZeitĂŒberschreitungen gehabt, bis wir die BegrĂŒndung auf minimal gesetzt haben. Danke!

1 „GefĂ€llt mir“

Ehrlich gesagt finde ich GPT-5 generell zu langsam und es ist nicht offensichtlich, dass sich die zusÀtzliche Vorlaufzeit bei den Antworten lohnt.

Wie haben Sie es fĂŒr Ihren Support-Bot empfunden?

Ich habe gpt-5 ĂŒber Chat GPT ausprobiert, was eine ganz andere Sache ist als ĂŒber die API, und es benötigt diese lange Denkzeit, um geringfĂŒgig bessere Antworten zu geben, als 4o oder o1 geben wĂŒrden. Wenn es schnell antworten muss, ist es nicht besser als 4.1.

Ich bin ziemlich sicher, dass die Situation bei der Verwendung der API Ă€hnlich oder schlechter ist, da es an Werkzeugen und Anweisungen mangelt. Aber ich weiß es nicht sicher, weil gpt-5 schmerzhaft langsam ist und in einer Forumsumgebung muss es fast Lichtgeschwindigkeit antworten.

1 „GefĂ€llt mir“

In Bezug auf die Inhaltsleistung scheint GPT-5 anekdotisch gesehen merklich bessere technische Antworten als GPT-4o zu liefern. Ich bin mir nicht sicher, wie ich das quantifizieren kann, aber es hat mich wirklich beeindruckt.

Ich erhalte unterschiedliche Ergebnisse, was die Antwortzeit betrifft. Aus Experimenten heute Morgen scheint sich zu ergeben, dass GPT-5 im Durchschnitt langsamer ist, aber nicht allzu sehr, und es gab einige FĂ€lle, in denen die Antwort mit GPT-5 schneller kam. Ich messe zwischen 5 Sekunden und 35 Sekunden fĂŒr eine Antwort.

Wir verwenden RAG und ich kann nicht sagen, welcher Teil der Latenz von der RAG-Suche im Vergleich zur Chat-VervollstĂ€ndigung herrĂŒhrt. Es könnte sein, dass es manchmal keine RAG-Suche durchfĂŒhrt, die Suche schneller erfolgt oder etwas zwischengespeichert wird (in der Suche oder der VervollstĂ€ndigung).

Wir wĂŒrden in der Regel bessere Antworten gegenĂŒber einer schnelleren Antwort bevorzugen, da es kostspielig ist, Kunden schlechte technische RatschlĂ€ge zu geben. Bis zu einem gewissen Punkt ist es jedoch eine sehr schlechte Benutzererfahrung, wenn es zu einem Timeout kommt.

GPT-5 empfiehlt fĂŒr unseren Anwendungsfall hauptsĂ€chlich GPT-5-mini und eskaliert unter bestimmten UmstĂ€nden zu GPT-5. Klingt gut, aber kompliziert. Haben Sie erwogen, dynamisch zwischen Modellen zu wechseln? Warum macht OpenAI das nicht einfach automatisch? ChatGPT - Compare GPT models performance

1 „GefĂ€llt mir“

Wir mussten auf gpt-4o zurĂŒckschalten, weil gpt-5-mini anscheinend glaubt, Dinge tun zu können, die es nicht kann. Es bot einem Kunden selbstbewusst an, dessen AlarmĂŒberwachungsservice einzurichten und mit dessen HausalarmausrĂŒstung zu verbinden. Es fragte nach GerĂ€te-IDs und halluzinierte, als wĂ€re es ein Concierge, der alles fĂŒr ihn einrichtet. Unsere Website kann das, aber der Chatbot nicht. Es scheint die Schutzmaßnahmen in der Systemaufforderung nicht zu befolgen, wie es gpt-4o tat. Wir mĂŒssen sie verschĂ€rfen, bevor wir es fĂŒr die Leute freigeben können.

Update: Es stellt sich heraus, dass gpt-5 Anweisungen besser befolgt und Regeln in der Aufforderung besser beachtet als gpt-5-mini. Wenn Sie zulassen, dass ein Bot Ihre Marke reprĂ€sentiert, empfehle ich gpt-5, auch wenn es langsamer und 5x teurer ist. Es besteht zu viel Risiko, dass gpt-5-mini außer Kontrolle gerĂ€t.

1 „GefĂ€llt mir“

Ich hatte wirklich viel GlĂŒck mit GTP-5-mini in agentenbasierten AblĂ€ufen durch Tool-Aufrufe, das Schreiben von Code und strukturierte Daten. Ich finde strukturierte Daten im Allgemeinen einfacher fĂŒr KI-Anwendungen als unstrukturierte! .. nicht das, was ich erwartet hatte! Aber Leitplanken sind einfacher .. (Code-in-the-Loop, Human-in-the-Loop, LLM-as-Judge usw.)

Schauen Sie sich dies an fĂŒr eine detaillierte Vorstellung von hochleistungsfĂ€higem, kostengĂŒnstigem GPT-5-mini und GPT-4o 


Wenn jemand daran interessiert ist, Funktionen fĂŒr strukturierte Daten in Discourse als Plugin usw. zu integrieren, melden Sie sich bitte.

Eine NLP-Erweiterung fĂŒr SQL/Statistik/Data Science fĂŒr Data Explorer ist ein Beispiel. Aber es könnte auch ein Tool/Plugin/eine Funktion geben, die natĂŒrliche Sprachabfragen von schreibgeschĂŒtzten SQL-Lite- oder DuckDB- usw. OLAP-Dateien ermöglicht, die in den Container geladen werden? Nur ein Gedanke.. :thinking:

Übrigens, ich habe GPT 5.1 zusammen mit einigen Korrekturen zum Plugin hinzugefĂŒgt:

1 „GefĂ€llt mir“

@tom_eric Sie haben nach der Möglichkeit gefragt, Spiele mit anderen Forumsmitgliedern zu spielen in einem anderen Thema.

Ich habe diesen Prompt mit Chatbot ausprobiert und es scheint mit GPT 5.1 zu funktionieren. Probieren Sie es aus:

@Chatbot erleichtere ein 9x9 Go-Spiel mit @Other_Player und mir, indem du eine Markdown-Tabelle zur Darstellung des Spielbretts verwendest – lass mich zuerst ziehen und akzeptiere ZĂŒge nur von mir und @Other_Player und nur, wenn wir an der Reihe sind – stelle das Spielbrett dar und fordere mich auf, zu beginnen 


1 „GefĂ€llt mir“

Oh, danke. Das ist eine wirklich kreative Idee.Oh, danke. Das ist eine wirklich kreative Idee.

1 „GefĂ€llt mir“

np, lass mich wissen, wie es klappt :+1:

Ein leicht angepasstes Dev-Setup ermöglichte es mir, mit einem Chatbot, der Zork spielt, mithilfe dieses Plugins und Discourse Frotz zu experimentieren :wink:

(hier mit GPT 5.1 bei geringerer Schlussfolgerung)

Eine kleine Zeit spÀter:

Sammle eine ziemliche Punktzahl an! Und:

:open_mouth:

(Entschuldigung, das Setup ist etwas zu komplex, um es hier einfach zu teilen).

1 „GefĂ€llt mir“

Wow! Das wusste ich nicht, dass das möglich ist. Ich schÀtze, mit guten Prompts ist so ziemlich alles möglich :sweat_smile:

1 „GefĂ€llt mir“

Chatbot-Modell-Dropdowns haben jetzt gpt 5.2 und 5.2 Pro – und fĂŒr 5.2 gibt es jetzt eine xhigh-Reasoning-Stufe, wenn Sie es lieben, Tokens zu verbrennen und die Umwelt zu zerstören :sweat_smile:

Sie werden vielleicht auch bemerken, dass Benutzer des Maths Plugin den Chatbot nun ganz einfach dazu bringen können, ĂŒber Mathematik mit schön gerenderten mathematischen Gleichungen zu sprechen, ohne etwas zum System-Prompt hinzufĂŒgen zu mĂŒssen 


1 „GefĂ€llt mir“

Ich habe die StartschaltflĂ€che an eine viel ordentlichere Stelle unten rechts verschoben (außer bei iOS PWA/App) – lassen Sie mich wissen, ob das nicht wie beabsichtigt funktioniert.

Dies sollte immer dazu dienen, das CSS zu vereinfachen und gleichzeitig diese nervigen Steuerleisten auf iOS zu berĂŒcksichtigen, aber ich konnte es nicht lĂ€nger ertragen, es hat meinen Augen wehgetan :face_vomiting: :sweat_smile:

@ThisSource Dies war der erste KI-Chatbot fĂŒr Discourse und lĂ€uft immer noch :).

Ich freue mich, meinen ersten fortlaufenden Business-Sponsor von Chatbot bekannt zu geben: Surety, die nun den neuen Abschnitt „Project Sponsor“ in der README einnehmen.

Surety hat es sich zur Aufgabe gemacht, Heimwerker mit professioneller SicherheitsalarmĂŒberwachung und Hausautomatisierung auf die transparenteste und effizienteste Weise zu versorgen und damit dem Trend in der Heimsicherheitsbranche entgegenzuwirken.

Vielen Dank, Surety!

@37Rb

Wenn Sie Sponsor eines meiner Projekte werden möchten, schauen Sie sich dies an: Sponsor @merefield on GitHub Sponsors · GitHub :folded_hands:

2 „GefĂ€llt mir“

Zusammenfassung der jĂŒngsten PRs — 1.–3. August 2026

Mehrere verwandte PRs wurden in Discourse Chatbot und seinen Erweiterungs-Plugins gemerged.

Highlights

  • EinfĂŒhrung fortschrittlicher lokaler Reasoning-Strategien, einschließlich verify-and-revise, best-of-two und unsicherheitsgesteuertes Reasoning.
  • HinzufĂŒgung aktueller OpenAI-Modelle und des neuen „max reasoning effort“-Parameters.
  • HinzufĂŒgung eines semantischen Blockiergates fĂŒr Fragen basierend auf Embedding-Ähnlichkeit.
    • erhebliche Einsparungen, da Embeddings verwendet werden, um Themen zu blockieren, die der Bot nicht bearbeiten soll, ohne dabei LLM-Tokens zu verbrauchen.
  • Konsolidierung der Basic- und RAG-Implementierungen in einem einzigen DiscourseChatbot::Bot.
  • Ersatz der Bot-Modus-Einstellungen durch Trust-Level-basierte integrierte Tool-Selektoren.
  • Umbenennung der Erweiterungs-API von „Function“ in „Tool“.
  • Ersatz des auf SafeRuby basierenden Calculator-Tools durch den eingeschrĂ€nkten Dentaku-Ausdrucksauswerter – dies ist eine große Verbesserung der Sicherheit, da SafeRuby trotz seines Namens SicherheitslĂŒcken aufweist.
  • EinfĂŒhrung von Zeitwerk-Loading in Chatbot und seinen Erweiterungs-Plugins.
  • Verschiebung standortspezifischer Tools in das Locations Early Access Plugin (sponsor mich, um den Zugriff wieder zu erhalten)
  • Verbesserung der Fehlerwiederherstellung des Calculators und UnterstĂŒtzung gĂ€ngiger π/e-Notation.
  • Aktualisierung des READMEs
  • Aktualisierung des Haupt-Plugins von Version 1.8.0 auf 2.4.1.

Discourse Chatbot

Begleit-Plugins

2 „GefĂ€llt mir“

2 „GefĂ€llt mir“

@Karthik_K1 bitte wirf einen Blick auf den Screenshot im letzten Beitrag.

Ein Chatbot löst dieses Problem nahezu kosteneffizient:

Falls du keine Drittanbieter-Plugins installieren kannst, wird dir das wenig helfen.

1 „GefĂ€llt mir“

Ich habe gerade einige Cache-Optimierungen eingefĂŒgt, die die Kosten fĂŒr die Nutzung von Chatbot senken sollten.