# Discourse Chatbot 🤖

**URL:** https://meta.discourse.org/t/discourse-chatbot/256652
**Category:** Plugin
**Tags:** ai
**Created:** [1. März 2023 um 11:08 UTC](https://meta.discourse.org/t/discourse-chatbot/256652 "2023-03-01T11:08:25Z")
**Posts on this page:** 20
**Page:** 6

<div class="post-metadata">

### Author: ![Zomb](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/zomb/32/93881_2.png) [@Zomb](https://meta.discourse.org/u/Zomb)
#### Post date: [11. November 2024 um 19:16 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1005 "2024-11-11T19:16:26Z")

</div>

Gut zu wissen! LOL. Das sollte ich hinzufügen, falls jemand fragt. 😃

---

<div class="post-metadata">

### Author: ![BrianC](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/brianc/32/487568_2.png) [@BrianC](https://meta.discourse.org/u/BrianC)
#### Post date: [16. Dezember 2024 um 00:06 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1006 "2024-12-16T00:06:26Z")

</div>

Hallo zusammen,

**@merefield** Vielen Dank für das fantastische Plugin und all deine harte Arbeit! Ich schätze deine Beiträge sehr.

Ich suche nach Anleitungen, wie ich Embeddings und Prompts am besten nutzen kann. Derzeit funktioniert OpenAI gut mit gpt4o-mini, daher hoffe ich, dass es mit Embeddings genauso reibungslos funktioniert. Mein Plan ist, einen Begriff und einige Hintergrundinformationen zu erfinden und die KI dann danach zu fragen, um zu sehen, ob sie den erfundenen Begriff zurückgibt.

Eine Sache, die mir nicht ganz klar ist: Wenn Sie eine Kategorie für die Indizierung einrichten, wird dann das gesamte Thema in den Prompt aufgenommen, wenn eine relevante Übereinstimmung gefunden wird, oder nur der spezifische Teil des Textes, der zur Erstellung des Embeddings verwendet wurde? Ich versuche zu entscheiden, ob es besser ist, kleinere, fokussiertere Themen oder längere, detailliertere Themen zu haben, insbesondere da die effiziente Token-Nutzung wichtig ist.

Ein weiterer Bereich, den ich untersuche, ist die Beziehung zwischen verschiedenen Prompt-Eingaben. Ich habe die Einstellung `chatbot.prompt.system.basic.open` und den versteckten Text, den man dem Bot zuführen kann, um seine Antworten zu gestalten, getestet. Ich weiß, dass sie auf irgendeine Weise zusammenarbeiten, aber ich bin mir nicht ganz sicher, wie. Wenn ich zum Beispiel Anweisungen wie „Du bist jemand, bitte tue A, B, C“ in den System-Prompt aufnehme, scheint dies weniger effektiv zu sein, als sie in den versteckten Text-Prompt aufzunehmen. Ich versuche, diese Konzepte besser zu verstehen und den besten Ansatz zu finden.

Vielen Dank im Voraus für alle Einblicke, die Sie teilen können!

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [16. Dezember 2024 um 07:57 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1007 "2024-12-16T07:57:53Z")

</div>

Hallo Brian,

> [@BrianC](#):
>
> wird das gesamte Thema in den Prompt aufgenommen, wenn eine relevante Übereinstimmung gefunden wird, oder nur der spezifische Teil des Textes, der zur Erstellung des Embeddings verwendet wurde?

Die Thema-Titel werden eingebettet und die Beiträge werden jeweils separat eingebettet.

Eine Anfrage kann gegen beides abgeglichen werden und die relevanten Beiträge zurückgeben.

> [@BrianC](#):
>
> Ich habe die Einstellung `chatbot.prompt.system.basic.open` und den versteckten Text, den man dem Bot zuführen kann, getestet.

Sobald Sie Embeddings verwenden, sollten Sie auf die RAG-Bot-System-Prompts umsteigen.

Sie möchten `chatbot.prompt.system.rag.open` (für öffentliche Antworten) und `chatbot.prompt.system.rag.private` für private Antworten in PMs und DMs. Diese Unterscheidung wurde ursprünglich eingeführt, damit Sie etwas anderes tun können, wenn Sie einen 1-zu-1-Support-Bot verwenden (wenn Sie möchten, aber Sie können sie identisch halten).

Meinen Sie mit verstecktem Text die zusätzlichen kategorieweisen Prompts?

Ich verwende das hauptsächlich, um neue Leute zu begrüßen, wenn sie in meiner Einführungs-Kategorie posten. Aber ich bin sicher, dass es darüber hinaus kreative Anwendungen geben kann.

Dies wird etwas anders gehandhabt. Es wird als versteckter Benutzer-Prompt gepostet, anstatt als Teil des Bots, z. B.:

```plaintext
Geben Sie mir eine herzliche Begrüßung im Forum! Sagen Sie mir, dass alle hier sehr freundlich und hilfsbereit sind! Fordern Sie mich auf, das Willkommens-Thema zu lesen, falls ich dies noch nicht getan habe, hier: LINK und die Posting-Richtlinien hier: LINK

```

Daher ist es am besten, es in der Ich-Form zu schreiben.

---

<div class="post-metadata">

### Author: ![BrianC](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/brianc/32/487568_2.png) [@BrianC](https://meta.discourse.org/u/BrianC)
#### Post date: [16. Dezember 2024 um 19:43 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1008 "2024-12-16T19:43:11Z")

</div>

Danke Robert, manchmal sind es die einfachen Dinge. Selbst nachdem ich gelesen hatte, dass ich den .rag-Prompt verwenden soll, habe ich immer wieder den einfachen .open verwendet.

Ich versuche immer noch zu verstehen, was für Rag als Prompt an OpenAI übermittelt wird. Ist es die gesamte Einbettung? Wenn ich also ein Thema erstelle, das ziemlich lang ist, wird dann der gesamte lange Prompt als Prompt übermittelt? Mit anderen Worten, ist es tokenmäßig günstiger, 2 kurze, präzisere Themen zu erstellen als ein Thema mit allen Informationen? Ich versuche immer noch, den sinnvollsten Ansatz für Effizienz zu finden.

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [16. Dezember 2024 um 20:27 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1009 "2024-12-16T20:27:36Z")

</div>

Wenn Sie die Protokolleinstellungen ändern und Informationen an „Warnung“ umleiten (diese Einstellungen sind die allerletzten in den Plugin-Einstellungen), können Sie jeden Aufruf der API unter `/logs` lesen.

Denken Sie daran, sie zurückzuändern, wenn Sie die Protokolle nicht verschmutzen möchten.

---

<div class="post-metadata">

### Author: ![willie](https://avatars.discourse-cdn.com/v4/letter/w/838e76/32.png) [@willie](https://meta.discourse.org/u/willie)
#### Post date: [16. Dezember 2024 um 23:34 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1010 "2024-12-16T23:34:34Z")

</div>

Hallo Robert.

Jedes Mal, wenn ich mich beim Chatbot anmelde, heißt es: „Hallo, wie kann ich Ihnen heute mit HappyBooks helfen?“ Ich möchte, dass der Chat nur antwortet, wenn ich ihn anschreibe.

Wie kann ich das tun?

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [16. Dezember 2024 um 23:39 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1011 "2024-12-16T23:39:27Z")

</div>

Hallo Willie

Wenn Sie die Quicklaunch-Schaltfläche verwenden, wird diese immer zuerst gesprochen, es sei denn, Sie deaktivieren diese Einstellung:

 ![image](https://global.discourse-cdn.com/meta/original/4X/5/c/9/5c983a48802f96c323c8078df66e2ba06cba7079.png)

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [16. Dezember 2024 um 23:40 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1012 "2024-12-16T23:40:40Z")

</div>

Und das ist ein HEULENDER Rechtschreibfehler (den ich beheben werde) 😅 😊

---

<div class="post-metadata">

### Author: ![willie](https://avatars.discourse-cdn.com/v4/letter/w/838e76/32.png) [@willie](https://meta.discourse.org/u/willie)
#### Post date: [17. Dezember 2024 um 01:08 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1013 "2024-12-17T01:08:47Z")

</div>

Wie kann ich den Chatbot dazu bringen, nur Fragen zur Website zu beantworten und keine Fragen wie 5 + 5 = ?

---

<div class="post-metadata">

### Author: ![Jagster](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jagster/32/192154_2.png) [@Jagster](https://meta.discourse.org/u/Jagster)
#### Post date: [17. Dezember 2024 um 07:22 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1014 "2024-12-17T07:22:30Z")

</div>

Mithilfe einer Systemaufforderung, in der Sie solche Fragen absolut verweigern, mit Beispielen.

Aber viel Glück damit. Ich weiß nicht, wie gut andere LLMs solche Regeln befolgen, aber OpenAI-Modelle halten sich möglicherweise daran oder auch nicht. Selbst wenn sie hier, jetzt und für Sie wie beabsichtigt funktionieren, wird die Situation in anderen Beiträgen, morgen und für andere Benutzer wahrscheinlich genau umgekehrt sein.

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [17. Dezember 2024 um 07:25 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1015 "2024-12-17T07:25:17Z")

</div>

Ein alternativer Ansatz besteht einfach darin, den Zugriff über das bereitgestellte Quotasystem zu verwalten. Wenn Benutzer 5 und 5 in einer PM addieren möchten, liegt das bei ihnen, aber sie verbrauchen dabei ihr Kontingent.

Auf jeden Fall glaube ich nicht, dass das viele Token verbrauchen wird 😅

Öffentlich liegt es weiterhin an den Moderatoren, neu entstehende Inhalte auf der Website zu überprüfen, wie bei jedem neuen Beitrag.

Auf meinen eigenen Websites weise ich meinen Bot regelmäßig an, alle möglichen Dinge zu tun, die vielleicht nicht zum Hauptthema der Websites gehören 😂 (wenn auch privat und innerhalb meines Kontingents).

---

<div class="post-metadata">

### Author: ![Jagster](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jagster/32/192154_2.png) [@Jagster](https://meta.discourse.org/u/Jagster)
#### Post date: [17. Dezember 2024 um 09:04 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1016 "2024-12-17T09:04:15Z")

</div>

5+5=10

Das ist automatisch durch iOS passiert 😂 (und ist manchmal wirklich nervig).

Wenn das von einem OpenAI-Chatbot gezählt worden wäre, hätte es praktisch nichts gekostet.

---

<div class="post-metadata">

### Author: ![MihirR](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mihirr/32/475158_2.png) [@MihirR](https://meta.discourse.org/u/MihirR)
#### Post date: [17. Dezember 2024 um 10:28 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1017 "2024-12-17T10:28:52Z")

</div>

Hallo @merefield, ist es zufällig für Perplexity konfiguriert, da es auch das GPT-Modell verwendet?

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [17. Dezember 2024 um 10:34 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1018 "2024-12-17T10:34:20Z")

</div>

Wenn Sie vielleicht einen Proxy finden können. Aber ohne all den Unsinn nur OpenAI.

Ich bin nur ein einzelner Entwickler und musste den Umfang vernünftig halten.

---

<div class="post-metadata">

### Author: ![MihirR](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mihirr/32/475158_2.png) [@MihirR](https://meta.discourse.org/u/MihirR)
#### Post date: [17. Dezember 2024 um 10:36 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1019 "2024-12-17T10:36:19Z")

</div>

Sicher, ich werde es versuchen und Sie über die Ergebnisse auf dem Laufenden halten.

---

<div class="post-metadata">

### Author: ![BrianC](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/brianc/32/487568_2.png) [@BrianC](https://meta.discourse.org/u/BrianC)
#### Post date: [19. Dezember 2024 um 02:03 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1020 "2024-12-19T02:03:39Z")

</div>

Hallo @merefield, ich habe festgestellt, dass die KI die Anweisungen nicht gut befolgt hat. Es sieht so aus, als ob sie in den Protokollen abgeschnitten wird.

 ![Das Bild zeigt einen Chatbot, der mit der API von OpenAI interagiert, um eine Antwort zu erhalten. (Beschriftet von KI)](https://global.discourse-cdn.com/meta/original/4X/f/6/b/f6be39a297e9a80586e8acd4489dfc899419f753.png)

Die vollständige Eingabeaufforderung, die ich in der Systemaufforderung gespeichert habe, ist unten aufgeführt. Dies wurde nur als Testaufforderung ausgewählt.

> Comedian Chatbot Persona Prompt. Du bist ein Comedian-Chatbot, ein virtueller Entertainer, der darauf ausgelegt ist, jeder Konversation Lachen und Freude zu bringen. Dein Ton ist leichtfüßig, witzig und fesselnd, mit einem Gespür für komödiantisches Timing und einem Repertoire, das eine breite Palette von Humorstilen umfasst. Deine Rolle ist es, der Mittelpunkt der digitalen Party zu sein, clevere Beobachtungen zu machen, Pointen zu liefern und deinen Humor an den Kontext und die Vorlieben deines Publikums anzupassen.

Zeigt das Protokoll nur eine Zeile an oder werden meine Eingabeaufforderungen abgeschnitten?

Ich habe keine Einstellung gefunden und bisher keine Probleme mit Limits bei OpenAI gehabt.

Danke! Brian

---

<div class="post-metadata">

### Author: ![Jagster](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jagster/32/192154_2.png) [@Jagster](https://meta.discourse.org/u/Jagster)
#### Post date: [19. Dezember 2024 um 08:31 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1021 "2024-12-19T08:31:49Z")

</div>

Ich habe den Chatbot gestern Abend deaktiviert, weil die „erste Antwort“ die Kategorieaufforderung wirklich schlecht befolgt hat. Fast gar nicht. Ich habe überlegt, eine PM zu senden, wenn ich etwas Robusteres weiß, aber hier sind wir. Und auch die normalere Konversation war in Bezug auf die Befolgung der Systemaufforderung nicht gerade großartig.

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [19. Dezember 2024 um 08:37 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1022 "2024-12-19T08:37:44Z")

</div>

> [@BrianC](#):
>
> Zeigt das Log nur 1 Zeile an oder werden meine Prompts abgeschnitten?

Ja, die Schnittstelle kürzt die Ausgabe.

Sie sollten das Ganze aber immer noch in der Datei `production.log` am üblichen Ort finden können.

( `tail shared/standalone/log/rails/production.log` aus dem Discourse-Verzeichnis)

---

<div class="post-metadata">

### Author: ![merefield](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/merefield/32/176214_2.png) [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [19. Dezember 2024 um 08:41 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1023 "2024-12-19T08:41:35Z")

</div>

Es gab keine Änderungen am Plugin.

Einige Modelländerung?

---

<div class="post-metadata">

### Author: ![Jagster](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jagster/32/192154_2.png) [@Jagster](https://meta.discourse.org/u/Jagster)
#### Post date: [19. Dezember 2024 um 08:49 UTC](https://meta.discourse.org/t/discourse-chatbot/256652/1024 "2024-12-19T08:49:34Z")

</div>

Nein, es sei denn, OpenAI hat etwas getan. Und das glaube ich nicht, denn DAI verwendet dasselbe Modell und funktioniert einwandfrei. Ich vermute einen Konflikt oder etwas, das in Discourse selbst geändert wurde, aber ich kann vor Weihnachten nicht tiefer graben. Während der Feiertage habe ich nichts als Zeit und praktisch null Besucher.

[Vorherige Seite](https://meta.discourse.org/t/discourse-chatbot/256652.md?page=5)

[Nächste Seite](https://meta.discourse.org/t/discourse-chatbot/256652.md?page=7)
