Discourse Chatbot đŸ€–

Plugin
1104

Es gibt einen PR, der geöffnet ist, um GPT-5 hinzuzufĂŒgen, aber wĂ€hrend der CI geht etwas schief.

Ich habe ein Dev Thema dazu eröffnet.

1105

Wurde zusammengefĂŒhrt.

Wenn Sie feststellen, dass die Argumentation von GPT-5 zu langsam ist, können Sie die Argumentationsebene Àndern. Es gibt jetzt eine neue minimal-Ebene.

Vielen Dank an @NateDhaliwal fĂŒr seine Hilfe bei diesem Thema!

2 „GefĂ€llt mir“
1106

Unser Bot hat ZeitĂŒberschreitungen gehabt, bis wir die BegrĂŒndung auf minimal gesetzt haben. Danke!

1 „GefĂ€llt mir“
1107

Ehrlich gesagt finde ich GPT-5 generell zu langsam und es ist nicht offensichtlich, dass sich die zusÀtzliche Vorlaufzeit bei den Antworten lohnt.

Wie haben Sie es fĂŒr Ihren Support-Bot empfunden?

1108

Ich habe gpt-5 ĂŒber Chat GPT ausprobiert, was eine ganz andere Sache ist als ĂŒber die API, und es benötigt diese lange Denkzeit, um geringfĂŒgig bessere Antworten zu geben, als 4o oder o1 geben wĂŒrden. Wenn es schnell antworten muss, ist es nicht besser als 4.1.

Ich bin ziemlich sicher, dass die Situation bei der Verwendung der API Ă€hnlich oder schlechter ist, da es an Werkzeugen und Anweisungen mangelt. Aber ich weiß es nicht sicher, weil gpt-5 schmerzhaft langsam ist und in einer Forumsumgebung muss es fast Lichtgeschwindigkeit antworten.

1 „GefĂ€llt mir“
1109

In Bezug auf die Inhaltsleistung scheint GPT-5 anekdotisch gesehen merklich bessere technische Antworten als GPT-4o zu liefern. Ich bin mir nicht sicher, wie ich das quantifizieren kann, aber es hat mich wirklich beeindruckt.

Ich erhalte unterschiedliche Ergebnisse, was die Antwortzeit betrifft. Aus Experimenten heute Morgen scheint sich zu ergeben, dass GPT-5 im Durchschnitt langsamer ist, aber nicht allzu sehr, und es gab einige FĂ€lle, in denen die Antwort mit GPT-5 schneller kam. Ich messe zwischen 5 Sekunden und 35 Sekunden fĂŒr eine Antwort.

Wir verwenden RAG und ich kann nicht sagen, welcher Teil der Latenz von der RAG-Suche im Vergleich zur Chat-VervollstĂ€ndigung herrĂŒhrt. Es könnte sein, dass es manchmal keine RAG-Suche durchfĂŒhrt, die Suche schneller erfolgt oder etwas zwischengespeichert wird (in der Suche oder der VervollstĂ€ndigung).

Wir wĂŒrden in der Regel bessere Antworten gegenĂŒber einer schnelleren Antwort bevorzugen, da es kostspielig ist, Kunden schlechte technische RatschlĂ€ge zu geben. Bis zu einem gewissen Punkt ist es jedoch eine sehr schlechte Benutzererfahrung, wenn es zu einem Timeout kommt.

GPT-5 empfiehlt fĂŒr unseren Anwendungsfall hauptsĂ€chlich GPT-5-mini und eskaliert unter bestimmten UmstĂ€nden zu GPT-5. Klingt gut, aber kompliziert. Haben Sie erwogen, dynamisch zwischen Modellen zu wechseln? Warum macht OpenAI das nicht einfach automatisch? ChatGPT - Compare GPT models performance

1 „GefĂ€llt mir“
1111

Wir mussten auf gpt-4o zurĂŒckschalten, weil gpt-5-mini anscheinend glaubt, Dinge tun zu können, die es nicht kann. Es bot einem Kunden selbstbewusst an, dessen AlarmĂŒberwachungsservice einzurichten und mit dessen HausalarmausrĂŒstung zu verbinden. Es fragte nach GerĂ€te-IDs und halluzinierte, als wĂ€re es ein Concierge, der alles fĂŒr ihn einrichtet. Unsere Website kann das, aber der Chatbot nicht. Es scheint die Schutzmaßnahmen in der Systemaufforderung nicht zu befolgen, wie es gpt-4o tat. Wir mĂŒssen sie verschĂ€rfen, bevor wir es fĂŒr die Leute freigeben können.

Update: Es stellt sich heraus, dass gpt-5 Anweisungen besser befolgt und Regeln in der Aufforderung besser beachtet als gpt-5-mini. Wenn Sie zulassen, dass ein Bot Ihre Marke reprĂ€sentiert, empfehle ich gpt-5, auch wenn es langsamer und 5x teurer ist. Es besteht zu viel Risiko, dass gpt-5-mini außer Kontrolle gerĂ€t.

1 „GefĂ€llt mir“
1112

Ich hatte wirklich viel GlĂŒck mit GTP-5-mini in agentenbasierten AblĂ€ufen durch Tool-Aufrufe, das Schreiben von Code und strukturierte Daten. Ich finde strukturierte Daten im Allgemeinen einfacher fĂŒr KI-Anwendungen als unstrukturierte! .. nicht das, was ich erwartet hatte! Aber Leitplanken sind einfacher .. (Code-in-the-Loop, Human-in-the-Loop, LLM-as-Judge usw.)

Schauen Sie sich dies an fĂŒr eine detaillierte Vorstellung von hochleistungsfĂ€higem, kostengĂŒnstigem GPT-5-mini und GPT-4o 


Wenn jemand daran interessiert ist, Funktionen fĂŒr strukturierte Daten in Discourse als Plugin usw. zu integrieren, melden Sie sich bitte.

Eine NLP-Erweiterung fĂŒr SQL/Statistik/Data Science fĂŒr Data Explorer ist ein Beispiel. Aber es könnte auch ein Tool/Plugin/eine Funktion geben, die natĂŒrliche Sprachabfragen von schreibgeschĂŒtzten SQL-Lite- oder DuckDB- usw. OLAP-Dateien ermöglicht, die in den Container geladen werden? Nur ein Gedanke.. :thinking:

1114

Übrigens, ich habe GPT 5.1 zusammen mit einigen Korrekturen zum Plugin hinzugefĂŒgt:

1 „GefĂ€llt mir“
1115

@tom_eric Sie haben nach der Möglichkeit gefragt, Spiele mit anderen Forumsmitgliedern zu spielen in einem anderen Thema.

Ich habe diesen Prompt mit Chatbot ausprobiert und es scheint mit GPT 5.1 zu funktionieren. Probieren Sie es aus:

@Chatbot erleichtere ein 9x9 Go-Spiel mit @Other_Player und mir, indem du eine Markdown-Tabelle zur Darstellung des Spielbretts verwendest – lass mich zuerst ziehen und akzeptiere ZĂŒge nur von mir und @Other_Player und nur, wenn wir an der Reihe sind – stelle das Spielbrett dar und fordere mich auf, zu beginnen 


1 „GefĂ€llt mir“
1116

Oh, danke. Das ist eine wirklich kreative Idee.Oh, danke. Das ist eine wirklich kreative Idee.

1 „GefĂ€llt mir“
1117

np, lass mich wissen, wie es klappt :+1: