API-Zugriff auf die Einbettung(en) eines Beitrags

Merkmal
1

Der Discourse AI-Bot verwendet RAG (Retrieval Augmented Generation) für Beiträge. Wenn der Bot aktiviert ist, sollte jeder Beitrag eine zugehörige Einbettung haben, die eine Vektorraumdarstellung ist. Es wäre praktisch, wenn diese Einbettungen über die API zugänglich wären.

Da immer mehr von uns KI in Discourse einsetzen, wünschen wir uns möglicherweise Funktionen, die derzeit nicht verfügbar sind. Da eine KI typischerweise Post-Einbettungen benötigt, die auf Discourse-Sites mit aktivem KI-Bot bereits vorhanden sind, ist es sinnvoll, diese vorhandenen Einbettungen zu nutzen, anstatt sie zu duplizieren.

Ich hatte gehofft, dass der Discourse AI-Bot inzwischen auf externe Daten zugreifen könnte, aber ich bin auf keine Informationen bezüglich dieser Fähigkeit gestoßen. Daher untersuche ich die Erstellung eines custom GPT für ChatGPT Plus und möchte die bereits vorhandenen Einbettungen nutzen.

1 „Gefällt mir“
2

Selbst wenn die API für diesen speziellen Anwendungsfall nicht verfügbar ist, können Sie immer eine SQL-Abfrage mit dem Daten-Explorer (Tabellen, die mit ai_ beginnen, wie ai_topic_embeddings) erstellen und die API verwenden, um die Ergebnisse der Abfrage zu erhalten.

3

Dies wird jetzt unterstützt. Der Endpunkt:

https://SITENAME/discourse-ai/embeddings/semantic-search.json?hyde=false&q=YOURQUERY

führt eine Vektorähnlichkeitssuche durch.

Dies wird jetzt auch mithilfe benutzerdefinierter KI-Tools unterstützt.

4 „Gefällt mir“
4

Danke!

Dies könnte eine Anleitung zur Bedeutung dessen, wie man Abfragen erstellt, die wie ein Prompt erscheinen, und wie man sie zur Verbesserung seines Discourse-Forums nutzen kann, gebrauchen.

Außerdem, wenn man das KI-Modell von OpenAI GPT zu Claude ändert, wären die Embeddings anders, daher sollten die Auswirkungen einer solchen Änderung in einer Anleitung vermerkt werden.

Ich treibe mich auf einem Zulip-Forum (Lean) herum und vermisse die KI-Funktionen, die Discourse hat. (Zulip-Funktionsmatrix)

image

image

image bedeutet, dass die Funktion nicht existiert.
Hut ab vor den Discourse-Mitarbeitern für die Erweiterung mit KI.

Wenn ich mich recht erinnere, ist die Nutzung kostenlos, da die Kosten für Embeddings jetzt so gering sind, dass es sich nicht lohnt, dafür zu bezahlen. :wink: Offensichtlich müssen die Discourse-Mitarbeiter diese Aussage klären, aber ich bin sicher, andere werden von der Antwort überrascht sein.

Aus Neugier habe ich die URL auf einer Discourse-Seite ausprobiert, auf der ich nur ein Trust Level 1 (Basisbenutzer) bin, und die Abfrage funktionierte.

Da dies anscheinend standardmäßig aktiviert und verfügbar ist, überlege ich im Hinterkopf, ob eine solche Technologie für Blinde, die das Internet nutzen, von Vorteil ist. Dies ist offensichtlich ein Gewinn für sie, wenn die Zusammenhänge erkannt werden, d. h. wenn sie darauf aufmerksam gemacht werden, können sie es nutzen, um ihnen zu helfen.

Daher habe ich dies in einem Thema für Blinde im OpenAI-Forum vermerkt.

1 „Gefällt mir“
5

Dieses Thema wurde nach 3 Tagen automatisch geschlossen. Neue Antworten sind nicht mehr möglich.