Discourse Chatbot 🤖

[merefield (Robert)]

	Zusammenfassung	Der ursprüngliche KI-Chatbot für Discourse
	Repository-Link	GitHub - merefield/discourse-chatbot: An AI bot with RAG capability for Topics, Chat & Customer Support in Discourse, currently powered by OpenAI · GitHub
	Installationsanleitung	So installierst du Plugins in Discourse
	Sponsoring	Bitte erwäge, ein regelmäßiger Sponsor meiner Open-Source-Arbeit zu werden, auf einem Niveau, das zu den Ressourcen und Bedürfnissen deiner Person oder Organisation passt, um sicherzustellen, dass dieses Plugin die Wartung erhält, die es verdient, und in Zukunft weiterhin auf deiner Website funktioniert.

Gefällt dir dieses Plugin? Bitte gib ihm einen auf GitHub!

Da es sich um ein unabhängig beigesteuertes Plugin handelt, bitte ich dich, Supportanfragen, Fehlerberichte, UX-Feedback und Funktionswünsche hier in diesem Thema zu stellen. Hinweis: Dieses Plugin ist nicht auf Discourse.org-Hosting verfügbar. Du kannst es installieren, wenn du selbst gehostet bist, und möglicherweise auch, wenn du Drittanbieter-Hosting nutzt (aber prüfe dies bei deinem Anbieter).

Der ursprüngliche KI-Chatbot für Discourse

Chatbot bringt konfigurierbare KI-Gespräche in Themen, persönliche Nachrichten, Chat-Kanäle und Chat-Threads. Gib dem Bot einen Charakter, der zu deiner Community passt, entscheide, welche Gruppen ihn nutzen dürfen, und wähle verschiedene Modelle und Tools für Benutzer mit niedrigem, mittlerem und hohem Vertrauensniveau.

Er kann:

• normal aus dem aktuellen Gespräch antworten;
• ausgewählte Foreninhalte mit semantischer oder hybrider Suche durchsuchen;
• Wikipedia, aktuelle Nachrichten und das Web durchsuchen;
• ferne Seiten crawlen und Tagesend-Marktdaten abrufen;
• zuverlässige ausdrucksbasierte Berechnungen durchführen;
• hochgeladene Bilder sehen und optional PDFs lesen;
• Bilder generieren und bearbeiten;
• offene, bearbeitbare Benutzerfelder in privaten Gesprächen sammeln;
• private Chat-Gespräche an konfigurierte Staff-Gruppen eskalieren;
• automatisch auf neue Themen in ausgewählten Kategorien antworten; und
• zusätzliche Tools akzeptieren, die von anderen Plugins bereitgestellt werden.

Für einen praktischen Support-Workflow siehe Einen technischen Support-Chatbot erstellen.

Mit aktivierter lokaler Forensuche kann der Bot Antworten auf den Inhalten deiner Community basieren:

Für einfachere Gespräche, stelle weniger oder keine Tools bereit, um Aufrufe, Latenz und Kosten zu reduzieren:

Anbieterunterstützung

Wähle die Anbieter unabhängig für Antworten, Embeddings, Vision und Bildgenerierung. Jede Funktion verwendet den API-Schlüssel des jeweiligen ausgewählten Anbieters.

Funktion	OpenAI	Anthropic	Google Gemini	xAI
LLM-Antworten und Tools
Embeddings		—
Vision
Bildgenerierung		—
Bildbearbeitung	GPT Image models	—	—
PDF-Gesprächseingabe		—	—	—

Wenn keine benutzerdefinierte URL festgelegt ist, verwendet Chatbot den eingebauten offiziellen Endpunkt für den ausgewählten Anbieter. Benutzerdefinierte Modellnamen und URLs unterstützen Azure OpenAI, Ollama, Proxys und andere Dienste, die die API-Struktur eines unterstützten Anbieters implementieren.

Anbieterspezifische Modell-Dropdowns werden nur angezeigt, wenn dieser Anbieter aktiv ist. Das Antwortmodell kann je nach Vertrauensniveau variieren, während Embeddings, Vision und Bildgenerierung jeweils über einen eigenen Anbieter- und Modell-Selektor verfügen.

Lies den vollständigen Leitfaden zu Anbietern und benutzerdefinierten Endpunkten.

Zugriff, Kontingente und Tools

Niemand hat Zugriff, bis du Gruppen in den Chatbot-Einstellungen für niedriges, mittleres oder hohes Vertrauensniveau zuweist. Benutzer erben das Kontingent, das Modell und die Tool-Allowlist ihres höchsten übereinstimmenden Chatbot-Vertrauensniveaus. Kontingente können nach Abfragen oder Tokens gemessen werden.

Eingebaute Tools werden unabhängig für jedes Vertrauensniveau ausgewählt. Anmeldeinformationen und unterstützende Einstellungen steuern weiterhin die Verfügbarkeit zur Laufzeit, sodass die Auswahl eines Web-Tools ohne dessen API-Schlüssel es nicht offenlegt.

Lies über Zugriff und Kontingente und Tools nach Vertrauensniveau.

Lokale Forensuche und Datenschutz

Bitte verstehe den Embedding-Umfang, bevor du die lokale Forensuche aktivierst.

Die Standard-benchmark_user-Strategie erstellt Embeddings für Inhalte, die für einen geeigneten Benutzer auf dem konfigurierten Vertrauensniveau sichtbar sind. Die categories-Strategie erstellt Embeddings für Inhalte aus explizit ausgewählten Kategorien. Die semantische Suche ist auf Geschwindigkeit optimiert und wiederholt keine Sichtbarkeitsprüfung für jede Person, die den Bot fragt, daher können übereinstimmende Inhalte außerhalb ihres ursprünglichen Publikums geteilt werden, wenn der Umfang eingeschränkte Inhalte umfasst.

Persönliche Nachrichten werden niemals eingebettet. Halte das Benchmark-Vertrauensniveau niedrig, vermeide private Kategorien, es sei denn, deren Inhalte können jedem Chatbot-Benutzer offengelegt werden, und entferne local_forum_search von Vertrauensniveaus, die es nicht verwenden sollen.

Die ausgewählten Anbieter können Gesprächsinhalte, Uploads, eingebettete Suchtreffer und Tool-Ergebnisse erhalten. Prüfe deren Aufbewahrungs- und Datennutzungsbedingungen und lege diese Verarbeitung in den Nutzungsbedingungen und der Datenschutzerklärung deines Forums offen.

Lies den vollständigen Leitfaden zu Embeddings, Umfang und Datenschutz.

Schnellstart

1. Installiere das Plugin mit dem normalen Self-Hosted-Plugin-Verfahren.
2. Wähle chatbot_llm_provider, gib den API-Schlüssel dieses Anbieters ein und wähle Modelle für jedes Vertrauensniveau.
3. Füge Gruppen zu den Zugriffseinstellungen für niedriges, mittleres oder hohes Vertrauensniveau hinzu und konfiguriere Kontingente.
4. Wähle die für jedes Vertrauensniveau verfügbaren eingebauten Tools aus.
5. Wenn du local_forum_search aktivierst, konfiguriere dessen Embedding-Anbieter und überprüfe dessen Umfang sorgfältig.
6. Erwähne den Bot, antworte ihm, verwende die Schnellzugriffstaste oder konfiguriere einen Kategorie-Auto-Antwort-Prompt.

Kurzes OpenAI-Beispiel

1. Erstelle einen OpenAI-API-Schlüssel und stelle sicher, dass API-Abrechnung aktiviert ist.
2. Setze chatbot_llm_provider auf OpenAI und füge den Schlüssel in chatbot_open_ai_token ein.
3. Lass die benutzerdefinierte URL leer, wähle ein OpenAI-Modell für jedes Vertrauensniveau, das du verwenden möchtest, und füge deine Testgruppe zur entsprechenden Chatbot-Zugriffseinstellung hinzu.
4. Erwähne den Bot in einem erlaubten Thema, einer persönlichen Nachricht oder einem Chat, um ihn zu testen.

Das Repository-README ist die maßgebliche Quelle für Voraussetzungen, jede wichtige Einstellungsgroup, anbieterspezifisches Verhalten, benutzerdefinierte Endpunkte, Embedding-Wartung, Prompt-Anpassung, Debugging, Erweiterungsentwicklung und Deinstallation:

Das vollständige README öffnen

Ausgewählte UI-Funktionen

Kategorien können ein neues Thema begrüßen und den Bot bitten, nach relevanten Community-Inhalten zu suchen:

Die optionale Schnellzugriffstaste kann einen direkten Chat oder eine persönliche Nachricht mit dem Bot öffnen:

Das Benutzerfelder-Tool kann unterstützte leere Felder privat sammeln:

Support und Sponsoring

Bitte melde Supportanfragen, Fehler, UX-Feedback und Funktionsideen in diesem Meta-Thema. Nenne den Anbieter, den Modellnamen, die relevanten Einstellungen, den HTTP-Status und die Anbieter-Antwort, wobei du API-Schlüssel und private Inhalte entfernst.

Diese Arbeit hängt von der Unterstützung der Community ab. Wenn das Plugin für deine Website wertvoll ist, bitte sponsore seine laufende Wartung.

Projektsponsoren

Sponsor	Niveau	Website
Surety	Silver Plus	suretyhome.com

Haftungsausschluss

LLMs können überzeugende, aber falsche Ausgaben erzeugen. Teste das Plugin anhand der Bedürfnisse deiner Community, verstehe die Datenschutz- und Kostenauswirkungen und wende angemessene Moderation an. Die Bedingungen für generierte Ausgaben unterscheiden sich je nach Anbieter und Rechtsprechung; prüfe die Bedingungen für jeden Anbieter, den du aktivierst.

[merefield (Robert)]

Ich habe Jina.ai zur Liste der unterstützten APIs hinzugefügt, die für die Websuche und das Web-Crawling verwendet werden können. Ein Schlüssel dient beiden Diensten. Vorhandene APIs werden verwendet, wenn Sie deren Schlüssel nicht entfernen.

FEATURE: add jina.ai API for web search and crawl

Es gab zwei Hauptgründe:

• Die Crawling-Leistung scheint wirklich gut zu sein
• Sie bieten ein Pay-as-you-go-Modell im Gegensatz zu einer monatlichen Gebühr, was mir und Ihnen passen könnte.

Link in den Einstellungen.

Jina AI - Your Search Foundation, Supercharged.

[merefield (Robert)]

Vielen Dank für Ihr Interesse an Discourse Chatbot.

Zwei Dinge könnten relevant sein:

• Der Bot wird auf jeden Beitrag antworten, wenn er in einem Thema mit nur einem Benutzer aufgerufen wird, bis sich mehr Personen dem Thema anschließen.
• Pro Kategorie können Sie den Chatbot dazu bringen, auf jedes neue Thema zu antworten, und Sie können ihm spezielle Anweisungen geben, was er tun soll, gesteuert durch eine kategoriespezifische Eingabeaufforderung, die Sie in den Kategorieeinstellungen festlegen.

Der Bot wird immer aufgerufen, wenn Sie ihn mit @ erwähnen, daher weiß ich nicht, ob Sie diese Funktion auch nutzen können.

[merefield (Robert)]

@Festinger

Wir haben eine zweite Kategorie für privaten Support, in der der KI-Chatbot auf „jeden“ Beitrag antworten soll, ohne erwähnt zu werden. Der KI-Chatbot soll durch ein Schlüsselwort ausgelöst werden.

„Jeden“ Beitrag? Oder nur diejenigen mit einem Schlüsselwort? Sind das zwei verschiedene Anforderungen?

@sam

Automatisierte Antworten: Der Beitragsklassifizierer kann Antworten auf Beiträge mithilfe vordefinierter Antworten generieren. Dies ist nützlich, um häufig gestellte Fragen oder gängige Anfragen zu beantworten, Spam in Junk-Kategorien zu verschieben und mehr.

Vielleicht könntest du im vordefinierten Antworttext den Chatbot erwähnen, und der Bot würde dann nachfassen? Das würde zwei Beiträge bedeuten, könnte aber funktionieren.

Wenn deine vordefinierte Antwort also „@Chatbot (oder wie auch immer du ihn umbenannt hast), bitte kümmere dich darum“ lautet, würde Chatbot nachfassen. Natürlich kannst du diese Antwort anpassen.

Beachte, dass Chatbot auch auf Flüstern antworten kann (wenn du es so konfigurierst). Wenn die vordefinierte Antwort also in einem Flüstern gesendet wurde, würden normale Nutzer nur die Antwort des Chatbots sehen, was vielleicht sauberer aussieht.

Ich bin offen, die Fähigkeiten von Chatbot zu erweitern, wenn du mich beauftragen möchtest, dies zu tun – vorausgesetzt, wir können eine ausreichend allgemeine Lösung finden, die auch für andere nützlich wäre. Aber es macht meines Erachtens Sinn, das Vorhandene zu nutzen.

Ich frage mich, ob der beste Schritt hier wäre, dem KI-Beitragsklassifizierer eine Flüstern-Funktion hinzuzufügen? Du könntest jemanden beauftragen, einen Pull-Request dafür einzureichen, oder es als Contribute > Feature melden und hoffen, dass es priorisiert wird. Das wäre zweifellos allgemein nützlich.

[merefield (Robert)]

Ich habe einige Codevereinfachungen vorgenommen, indem ich eine Funktion genutzt habe, die zur OpenAI API hinzugefügt wurde. Lassen Sie mich wissen, wenn Sie auf Probleme stoßen.

IMPROVE: use Chat Completions name attribute to simplify code

Ich habe beschlossen, dass es an der Zeit war, dies 1.0.0 zu nennen

[merefield (Robert)]

Die Möglichkeit hinzugefügt, andere Funktionen in separaten Plugins hinzuzufügen, sodass Sie keinen Fork des Chatbot-Repositorys pflegen müssen.

Beispiel-Funktionsplugin hier:

GitHub - merefield/discourse-chatbot-function-extension-example: An example plugin to show you how to add new...

aber natürlich könnten Sie dies zu jedem Plugin hinzufügen …

PR:

FEATURE: ability to extend with functions from other plugins

[merefield (Robert)]

@Festinger hast du das gelöst?

[ozkn (Mathx)]

Post-Einbettung: Es gab ein Problem, aber der erneute Versuch wird bis zum Limit fortgesetzt: undefined method `destroy!’ for nil

Nach dem letzten Update erhalte ich die obige Fehlermeldung. Ich erhalte diese Fehlermeldung insbesondere bei Bildern. Meine Einstellung für den Sichtmodus ist: direkt. Ich habe solche Fehler vorher nicht bekommen.

[merefield (Robert)]

Erinnern Sie sich, dass Sie kurz nach dem Erstellen einen Beitrag (oder ein Thema) gelöscht haben?

Dieser Fehler tritt auf, wenn Sie einen Beitrag erstellen und ihn dann löschen, bevor er eine Einbettung erstellen kann. Wenn Sie ihn dann löschen, versucht Chatbot, eine nicht vorhandene Einbettung zu löschen, was eine ärgerliche Protokollnachricht erzeugt, aber keinen Schaden anrichtet

Wenn Ihnen eine bessere Möglichkeit einfällt, dies zu tun, können Sie gerne einen PR einreichen.

[ozkn (Mathx)]

Es gab einen Fehler wie diesen in dem vom Benutzer gesendeten Problem. Das war nichts, was ich gelöscht habe.

[merefield (Robert)]

@ozkn

Post Embedding: Es gab ein Problem, aber der Versuch wird bis zum Limit wiederholt: undefined method `destroy!’ for nil

Wie hat der Benutzer das gesehen? Das steht nur in den Protokollen?

[ozkn (Mathx)]

Ich habe es in den Protokollen gesehen. Ich verfolge es seit einem Tag, insbesondere tritt das Problem bei Beiträgen von langjährigen Mitgliedern auf. Wenn ein neues Mitglied ein Thema mit einem Bild eröffnet, gibt es normalerweise kein Problem, es wird kein Fehler empfangen. Wenn alte Benutzer ein Thema mit einem Bild eröffnen, gibt es ein Problem.

[merefield (Robert)]

Können Sie bitte den Backtrace teilen?

@ozkn

Ich habe es in den Protokollen gesehen.

Warum hat der Benutzer Ihnen dann ein Problem geschickt? Was haben sie Ihnen gesagt? Der Benutzer sollte nichts von einem Problem wissen, es erscheint einfach in den Protokollen?

Klingt so, als ob Ihre „alten Mitglieder“ ihren kürzlich neuen Beitrag oder ihre neue Nachricht löschen könnten (da sie wissen, wie das geht)?

Haben Sie irgendeine Art von Automatisierung im Einsatz?

Es gibt keine Zerstörung beim Posten eines Beitrags mit einem Bild, daher bin ich mir nicht sicher, wie das passieren könnte.

Update: Ich habe gerade ein Bild auf eine Website hochgeladen und kann es nicht reproduzieren.

[Jagster (Jakke Flemming)]

SerpAPI ist in Ordnung, und ihre Statistiken zeigen, dass die Anfrage zur Nutzung von Google durchgeführt wurde, aber der Chatbot behauptet, er könne Google nicht nutzen. Diese Situation besteht schon länger, aber ich habe nicht reagiert, da DAI zu diesem Zeitpunkt Google auch nicht nutzen wollte.

Keine Fehlermeldungen.

[merefield (Robert)]

Was passiert, wenn Sie sagen „Im Web suchen nach …“?

Der interne Prompt ist generisch und geht nicht von Google aus …

Lassen Sie mich Ihnen eine sehr gute Demo dieser leistungsstarken Funktion zeigen:

Star Wars Outlaws impressions

(obwohl dies die gebündelte Alternative jina.ai verwendet)

[Jagster (Jakke Flemming)]

Ich habe das versucht. Die Systemaufforderung enthielt „Wenn ein Benutzer Google für die Suche verwendet, meint der Benutzer tatsächlich, dass Sie die Web-Suchfunktion verwenden sollten, auf die Sie Zugriff hatten“. Ich habe diesen Teil gelöscht und dann die Formulierung „Websuche“ in meiner Benutzereingabeaufforderung versucht – schließlich verwendet sie keine API von Google. Kein Erfolg und eine ähnliche Antwort: Ich kann keine Websuche durchführen…

Das ist alles, was ich gefunden habe, aber es öffnet sich nicht:

{
  "id": "chatcmpl-A1wT9Dp1fCIVSzRsVPhr3NnNCcPjW",
  "object": "chat.completion",
  "created": 1725026447,
  "model": "gpt-4o-2024-05-13",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": null,
        "tool_calls": [
          {
            "id": "call_MvzexRPsDj6EGuXhuiFcmtrd",
            "type": "function",
            "function": {
              "name": "web_search",
              "arguments": "{\"query\":\"International Dog Day date, reason, and history\"}"
            }
          }
        ],
        "refusal": null
      },
      "logprobs": null,
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 1203,
    "completion_tokens": 20,
    "total_tokens": 1223
  },
  "system_fingerprint": "fp_157b3831f5"
}

[Jagster (Jakke Flemming)]

Ich kann ohne das leben, denn mein Ziel ist es, Chatbot als internen Q/A-Bot zu nutzen, und Jina könnte das Problem der Nutzung meiner Hauptinhaltsseite (über WordPress) lösen.

Aber das Ergebnis, als ich von außerhalb der Welt suchte, war nicht wie erwartet.

[merefield (Robert)]

Ich werde sehen, ob ich das reproduzieren kann

[merefield (Robert)]

Es funktioniert für mich entweder über die Serp API oder Jina.ai.

Können Sie bitte die „inneren Gedanken“ des Bots vom PM bereitstellen?

Innere Gedanken

[
  {
    "role": "assistant",
    "content": "",
    "tool_calls": [
      {
        "id": "call_mKY7pfG54xRduRKCz5xee9E0",
        "type": "function",
        "function": {
          "name": "web_search",
          "arguments": "{\"query\":\"list of English butterflies\"}"
        }
      }
    ]
  },
  {
    "role": "tool",
    "tool_call_id": "call_mKY7pfG54xRduRKCz5xee9E0",
    "content": "A-Z der Schmetterlinge · Adonisbläuling · B Schwarzer Feuerfalter · Zitronenfalter · Rotbrauner Bläuling · Dunkler Feuerfalter · C Wolkenkuckucksheim-Bläuling · Schachbrett-Dickkopffalter · Gelbspanner · D."
  }
]

[Jagster (Jakke Flemming)]

Sollten wir das per PM machen? Wir verschmutzen gerade nur dieses Thema.

Aber:

[
  {
    "role": "assistant",
    "content": "",
    "tool_calls": [
      {
        "id": "call_4xitHqRBJ8Wc1HI546r3Wj1U",
        "type": "function",
        "function": {
          "name": "web_search",
          "arguments": "{\"query\":\"International Dog Day date and history\"}"
        }
      }
    ]
  },
  {
    "role": "tool",
    "tool_call_id": "call_4xitHqRBJ8Wc1HI546r3Wj1U",
    "content": "International Dog Day date and history: my search for this on the internet failed."
  }
]