aas:
Discourse AI sieht fantastisch aus und ich bin super gespannt darauf, es auf meiner selbst gehosteten Instanz einzurichten!
Eine Frage, die ich habe (oder vielleicht eine Funktionsanfrage) bezüglich des Helfer-Bots und der Embeddings ist: Kann ich auswählen, welche Themen für Retrieval Augmented Generation (RAG) verwendet werden? Zum Beispiel wäre es fantastisch, wenn ich das Plugin so konfigurieren könnte, dass es nur Embeddings für Themen in meinen offiziellen Dokumentationskategorien berechnet. Ich befürchte, dass die Ausgabe nicht gut genug sein wird, wenn der Bot eine Vektordatenbank mit allem aus unserem Forum erstellt. Es wäre auch interessant, es so zu konfigurieren, dass es nur Embeddings für Themen mit bestimmten Tags oder gelösten Themen berechnet. Ich bin neugierig auf die Details Essay bezüglich des RAG-Workflows. Hat Discourse AI einen RAG-Workflow? Werden wir die Möglichkeit haben zu steuern, welche Dokumente in die Vektordatenbank aufgenommen werden? Wenn wir bereits eine Sammlung von Embeddings haben, können wir Discourse AI so konfigurieren, dass es diese bei Aufrufen des Helfers oder der semantischen Suche verwendet?
Das habe ich hier kurz erwähnt, aber ich würde gerne mehr Details erfahren!
Was in dieser Persona baut auf der Discourse-Integration auf, außer der Verwendung der Discourse-UI als Frontend für die externe LLM? Für die meisten unserer Personas schauen wir uns RAG an, wo wir etwas erstellen können, das mit einem Standard-LLM nicht auch gegeben wird.
Soweit ich weiß, erstellt das Discourse AI Plugin nur eine Vektordatenbank mit allen Beiträgen im Forum, aber dieser Ansatz wird verfeinert, um Benutzern die Angabe zu ermöglichen, welche Dokumente enthalten sein sollen. Dies ermöglicht eine granularere Kontrolle über die Trainingsdaten und verbessert die Qualität der generierten Antworten.
Darüber hinaus wird die Möglichkeit, vorab berechnete Embeddings einzubeziehen, noch erforscht…
1 „Gefällt mir“