[Ai Bot] Fügt Benutzer-Token-Tracking, benutzerdefinierte KI-Personas, maximale Kontext-Posts, Dokumenten-Laden, benutzerdefinierte API-URLs und lokalisierte Chat-Titel hinzu

Hallo zusammen!

Ich möchte ein paar nützliche Funktionen für das Discourse AI-Plugin vorschlagen:

  1. Verfolgung der Token-Nutzung pro Benutzer
    Dies würde es Administratoren ermöglichen, zu überwachen, wie viele Tokens jeder Benutzer bei der Interaktion mit der KI verbraucht. Es könnte helfen, Missbrauch zu verhindern und die Festlegung von Token-Limits pro Benutzer oder pro Gruppe zu ermöglichen. Eine detaillierte Aufschlüsselung der Token-Nutzung nach Benutzer würde bessere Einblicke in Nutzungsmuster und Kosten geben.
    Die russische Sprache wird von uns in unserer Community verwendet, um mit der KI zu chatten, aber der OpenAI-Tokenizer funktioniert nicht gut mit der russischen Sprache. Ein Token kann ein Symbol sein, und das ist für uns verdammt teuer!

  2. Benutzern ermöglichen, benutzerdefinierte KI-Personas zu erstellen
    Benutzern die Möglichkeit zu geben, die Persona ihres KI-Assistenten selbst zu definieren (benutzerdefinierte Prompts erstellen), um ansprechendere und persönlichere Interaktionen zu ermöglichen. Diese Flexibilität würde zu kreativeren KI-Nutzungen im Forum inspirieren.

  3. Festlegen einer maximalen Anzahl von Beiträgen, die als Kontext einbezogen werden sollen
    Eine Standardoption für alle Personas, den Kontext auf eine bestimmte Anzahl aktueller Beiträge zu beschränken, könnte helfen, die Token-Nutzung unter Kontrolle zu halten und der KI dennoch genügend Kontext für eine angemessene Antwort zu geben.

  4. Möglichkeit, Text aus benutzerdefinierten Datenquellen zu verwenden
    Die Integration von Dokumentenladern für Quellen wie PDFs, Webseiten, Google Drive-Dateien usw. würde es Benutzern erleichtern, mit Informationen zu interagieren, und es scheint nicht sehr schwierig zu implementieren zu sein. Stellen Sie sich vor, die KI könnte Informationen aus einem als PDF hochgeladenen Whitepaper oder Fakten von bestimmten Webseiten referenzieren, wenn sie sich mit einem Thema beschäftigt. Dies ist besonders nützlich für akademische Gemeinschaften wie meine, die sich oft mit Artikeln in verschiedenen Formaten befassen. Dies könnte die Fähigkeiten der KI in spezialisierten Diskussionen erheblich erweitern. Dokumentenladertools wie LangChain könnten potenziell dafür genutzt werden: Document Loaders — :parrot::link: LangChain 0.0.146

  5. Unterstützung für benutzerdefinierte API-Basis-URLs für alle KI-Modelle
    Derzeit werden benutzerdefinierte API-URLs nur für OpenAI unterstützt. Die Ausweitung dieser Funktion auf alle unterstützten KI-Anbieter wäre sehr hilfreich für diejenigen, die einen Reverse-Proxy oder andere nicht standardmäßige API-Endpunkte verwenden müssen. Viele von uns verlassen sich aus Sicherheits-, Compliance- oder Kostenmanagementgründen auf Reverse-Proxys. Die Flexibilität, KI-Anfragen über unsere eigene Infrastruktur zu leiten, würde die Integration dieses Plugins in unsere Umgebungen erheblich erleichtern.

  6. Generierung lokalisierter Chat-Titel basierend auf der Sprache des Benutzers
    Derzeit werden Chat-Titel nur auf Englisch generiert. Die Möglichkeit, Titel in der bevorzugten Sprache des Benutzers zu erstellen, würde die Benutzererfahrung verbessern, insbesondere für nicht-englischsprachige Gemeinschaften.

Bitte lassen Sie mich wissen, was Sie denken!

2 „Gefällt mir“

Hallo @Oniel :slight_smile:

Wie ich bereits erwähnt habe, musst du pro #feature-Anfrage ein separates Thema erstellen:

Ich werde dieses hier schließen, es aber sichtbar lassen, damit du es in separate Themen aufteilen kannst. :+1:

4 „Gefällt mir“