Hochladen und Diskussion von PDFs in Composer

Hallo zusammen,

ich bin mir nicht sicher, ob dies der richtige Weg ist, eine Feature-Anfrage zu stellen, aber ich wollte auf diesen Beitrag mit Sam verweisen.

Die Idee ist, Benutzern zu ermöglichen, PDF- oder TXT-Dateien direkt im Chat hochzuladen, und die KI soll den Inhalt verarbeiten und Fragen dazu beantworten. Es scheint, dass ein Großteil der Infrastruktur bereits vorhanden ist, und dies könnte einen enormen Mehrwert für interaktive Diskussionen bieten.

Ich würde mich über eure Gedanken dazu freuen!

Danke,
Brian

11 „Gefällt mir“

Dies ist eine perfekte Lösung für unzählige Organisationen, die eine Discourse-Instanz betreiben. Darüber hinaus könnte das KI-Plugin eine globale Einstellung erhalten, um den Upload von Dokumenten für Personas zu erlauben/zu verbieten, und das Admin-Panel könnte einen neuen Tab mit einigen Einstellungen für die Chunking-Größe, die Anzahl der Ergebnisse usw. erhalten, die global oder pro LLM sein können. Wie Sie erwähnten, scheint es, dass viel oder sogar die meiste Code-Infrastruktur bereits für diese Funktion vorhanden ist.

@sam glaubst du, dass dieses hier irgendwann entwickelt wird?

1 „Gefällt mir“

Hoffentlich gibt es Hoffnung, da wir gerade PDF-Uploads im Persona-Editor für RAG erhalten haben :face_with_peeking_eye:

Das Schwierige hier ist die Benutzeroberfläche.

Es gibt eine „Vorlaufzeit“ für das Indizieren einer PDF-Datei oder einer großen Textdatei. Und es gibt eine Herausforderung für die Benutzeroberfläche.

  1. In den Beiträgen Nr. 1, 7, 27 wurden PDFs/Texte hochgeladen … wie findet der Benutzer heraus, was vor sich geht?
  2. Sie laden in Beitrag Nr. 1 hoch, aber es dauert 5 Minuten, bis er verfügbar ist. Wie kommunizieren Sie das dem Benutzer?

Technisch gesehen denke ich, dass der einzige Weg, beides zu umgehen, der einfachste ist, eine Art benutzerdefinierte Benutzeroberfläche für Uploads.

Die Herausforderung der Benutzeroberfläche ist hier die größte Hürde, die eigentlichen Mechanismen sind nicht allzu kompliziert.

cc @awesomerobot / @Falco

3 „Gefällt mir“

Ich bin keineswegs ein Frontend-Entwickler, daher mag das alles unsinnig sein, aber haltet mein Bier…

KI-Upload-Modal

Ich schlage vor, dass es in der Werkzeugleiste des Komponisten eine Schaltfläche „KI-Dokument“ geben könnte, die ein spezielles KI-Upload-Modal startet (über das der Benutzer Standard- oder erweiterte Verarbeitung und einige andere Einstellungen auswählen kann). Dann kann das Thema/der Beitrag entweder (und vielleicht könnte es eine Website-Einstellung geben, die dieses Verhalten bestimmt):

  1. Ausgegraut und für andere im Thread außer dem postenden Benutzer unsichtbar sein, bis die Verarbeitung abgeschlossen ist – danach wird es öffentlich sichtbar. ODER…
  2. Der Beitrag könnte als Entwurf gespeichert werden und der Upload läuft im Hintergrund weiter. Wenn er geöffnet wird, zeigt er dieses KI-Upload-Modal mit dem Upload-Fortschritt an. Im Wesentlichen wird die Veröffentlichung nicht zugelassen, bis der KI-Upload entweder abgeschlossen oder abgebrochen ist.
  • In beiden Fällen könnte es eine Einstellung geben, die es ermöglicht, dem Benutzer eine Benachrichtigung zu senden, wenn sein Upload abgeschlossen ist.

Uploads verfolgen

In Bezug auf die Verfolgung der Uploads im gesamten Thema könnte eine Liste der Dateien mit ihrer zugehörigen Beitragsnummer (plus vielleicht Größe usw.) an dieser Stelle unter den Thema-Statistiken eingefügt werden:

1 „Gefällt mir“