Was hindert dich daran, Discourse AI auszuprobieren?

Als Ziel für dieses Jahr versuchen wir, die Akzeptanz von Discourse AI und seinen Funktionen zu erhöhen. Ich versuche zu verstehen, was Sie ganzheitlich davon abhält, Discourse AI in Ihrer Community auszuprobieren.

Ich verstehe, dass es featurespezifische Aspekte geben könnte, die störend sein könnten, aber in diesem Fall versuche ich, ein allgemeines Bild davon zu bekommen, was diese problematischen Gründe sein könnten.

Wenn Sie bereit sind, mit mir in einem Gespräch darüber zu sprechen, würde ich jedes Feedback sehr schätzen :folded_hands:

9 „Gefällt mir“

KI-Missbrauch. Ich meine damit, dass Leute KI benutzen, um wie, ALLES zu schreiben. Das macht Menschen irgendwie wertlos, aber das ist für jede KI irgendwie unvermeidlich. Aber ich könnte es bald (wenn ich bezahlen könnte)!

9 „Gefällt mir“

Ja, das verstehe ich. Wir denken darüber nach, Discourse AI zu einem hilfreichen Assistenten auf Ihrer Discourse-Reise zu machen, anstatt sich darauf zu verlassen, dass es alles “schreibt”. Gleichzeitig machen wir die Leute darauf aufmerksam, dass es sich um KI-generierte Inhalte handelt, die für die GenAI-Funktion angezeigt werden.

7 „Gefällt mir“

In unserer Community spammen die Nutzer mit Junk-Antworten oder Lösungen für Tutorials mit dem Feature, das direkt nach dem Start von ChatGPT sehr verbreitet war…

4 „Gefällt mir“

Ich möchte in der Lage sein, einzelne POSTS manuell einer oder mehreren KI-Personas als Wissensbasis zuzuweisen.

3 „Gefällt mir“

So teuer dieser Moment und ich möchte nicht, dass meine Benutzer tippen oder KI-Inhalte erstellen, wenn der Fokus auf menschlichen Diskussionen liegt.

5 „Gefällt mir“

Wir sind noch nicht auf Discourse (die Evaluierung läuft noch), aber konzeptionell gibt es zwei Hauptblocker:

  1. Unsere Community besteht hauptsächlich aus Liebhabern von Tabletop-Rollenspielen und menschliche Kreativität wird sehr geschätzt – infolgedessen hat ein erheblicher Teil unserer Nutzer eine negative Einstellung gegenüber generativer KI. Es gibt auch viele Experimente mit den neuen Werkzeugen, aber effektiv muss jede Nutzung generativer KI sorgfältig abgewogen werden.

  2. Wir hosten selbst und haben ein begrenztes Budget (das von einigen unserer Nutzer beigesteuert wird) – es reicht für einen anständigen Server, um Discourse (oder jede andere Community-Software) zu hosten, aber die Kosten sowohl für aktuelle LLM-as-a-Service-Angebote als auch für dedizierte GPU-Server sind zu hoch, um sie unterzubringen. Und der erwartete Nutzen ist ebenfalls zu gering, um ihn zu rechtfertigen.

7 „Gefällt mir“

Ich stimme einigen der obigen Kommentare zu, insbesondere der Befürchtung, dass Leute zu viel mit KI schreiben und es schwieriger wird zu unterscheiden, was ein Mensch geschrieben hat und was nicht.

Ich denke jedoch, dass eine größere Befürchtung, die ich habe, die Nutzung einer entfernten KI ist. Ich habe oft darüber nachgedacht, wie öffentlich meine Discourse-Foren sein sollen, und ich habe einfach keine Heuristik dafür, wie datenschutzverletzend KI-APIs heutzutage sind.

Ich denke, wenn es leistungsfähigere und günstigere selbst gehostete oder sogar On-Device LLMs gäbe, würde ich mich wohler fühlen. Ich bin mir nicht sicher, wie ein On-Device LLM Discourse zugutekommen würde, aber etwas an der Verwendung eines entfernten LLM verursacht mir heutzutage Zögern.

3 „Gefällt mir“

Würde ein von Discourse gehostetes Open-Source-LLM angenehmer sein als ein anderer Drittanbieter? (obwohl wahrscheinlich etwas weniger als On-Device?)

9 „Gefällt mir“

Vielleicht ein wenig, aber ich würde selbst gehostete oder On-Device-Lösungen (wieder, wenn das überhaupt für ein selbst gehostetes Forum funktionieren könnte) bevorzugen.

Vielleicht wäre ich mehr begeistert, wenn es von Discourse gehostet würde, mit der Option auf Selbst-Hosting, genau wie Discourse jetzt ist. Zu diesem Zeitpunkt würde sich meine Sorge wahrscheinlich auf die Qualität der LLM-Ausgabe und die Kosten für den Betrieb verlagern.

7 „Gefällt mir“

Ich vermute, Sie möchten von Leuten hören, die etabliertere Communities haben als meine, aber ich werde das hier mal einwerfen.

Es hindert mich nichts daran, einige KI-gestützte Funktionen zu meiner Discourse-Seite hinzuzufügen, aber ich interessiere mich für die Funktionen, nicht dafür, dass sie KI-gestützt sind.

Zum Beispiel wären semantische Suche und die Möglichkeit, Beiträge automatisch zu markieren (damit sie später von einem Menschen überprüft werden können), beides Funktionen, die ich gerne nutzen würde. Auch die Möglichkeit, Beiträge im Handumdrehen zu übersetzen, wäre nützlich.

Einige Beispiele dafür, worauf ich mich in Bezug auf Marketing beziehe:

  • Wenn Sie Text über Google übersetzen, sagen sie nicht „mit KI übersetzen“, sondern bieten einfach an, den Text zu übersetzen.

  • Wenn Sie eine Suche bei Google durchführen, sagen sie nicht „mit KI suchen“, obwohl KI daran beteiligt ist, die (derzeit nicht guten) Suchergebnisse zurückzugeben.

  • Wenn Soundcloud Tags für einen hochgeladenen Track vorschlägt, sagen sie nicht „mit KI taggen“, die Benutzeroberfläche schlägt einfach einige Tags vor – der Endbenutzer wird nicht ermutigt, über die (erstaunliche) Technologie nachzudenken, die es dem System ermöglicht, geeignete Tags basierend auf einer Analyse des hochgeladenen Tracks vorzuschlagen.

Einige KI-bezogene Funktionen, insbesondere alles, was mit Chatbots zu tun hat, könnten dem Geist dessen, worum es bei Online-Communities geht, widersprechen. Indem Sie alle KI-bezogenen Funktionen unter der Überschrift „Discourse AI“ zusammenfassen, riskieren Sie, Leute von Funktionen abzuschrecken, die zufällig KI-gestützt sind, die aber auch unglaublich nützlich für ihre Foren sein könnten.

Ich bin kein Marketinggenie, nehmen Sie also alles oben Genannte mit Vorsicht zur Kenntnis.

30 „Gefällt mir“

Essentials Tools mit KI zur Moderationshilfe sind für mich in Ordnung. Ich möchte Bilder generieren können, aber ich lehne alle KI-basierten Erstellungsmethoden ab, wenn sie den Geist der Community gefährden.

Soziale Medien sterben aus einem Grund, das ist der Punkt.

2 „Gefällt mir“

Ich benutze es. In meinem Forum wird KI verwendet, um Dinge zu erklären[1]. Aber ich erlaube es nicht für allgemeine Mitglieder, weil es einfach zu teuer ist – ich bin in einem Maßstab, wo 50 Dollar im Monat schrecklich teuer sind :wink:

Aber das Hauptproblem für mich ist nicht die Schuld der KI, sondern wie viel Arbeit nötig ist, um eine anständige Wissensbasis zu erstellen. Aber für mich ist die größte Schwäche der KI, wie schlecht sie Embeddings verwendet und dann Inhalte, die von der Community erstellt wurden, nicht gut genug genutzt werden.

Ja, ich weiß. Es liegt hauptsächlich an den Einschränkungen von OpenAI. Und die Technologie ist nicht so produktionsreif, wie behauptet wird. Dazu kommt noch die Sprachbarriere.

Das i-Tüpfelchen: Gutes Prompting zu erstellen ist wirklich schwer. Und nach einigen Wochen ändert sich etwas und die Prompts müssen wieder behoben werden.

Es mag eines Tages bei einigen Hintergrundaufgaben helfen. Aber wenn ich sehe, wie Teams (und aus meiner Sicht, eine große Verschwendung von Zeit und Geld, sorry :woozy_face:) mit täglichen usw. Zusammenfassungen kämpfen, behaupte ich, dass es zu viel solcher Arbeit erfordert, die den Umsatz nicht tatsächlich steigert, egal ob er in Dollar oder Glück gemessen wird. Es reduziert nicht die Arbeitsbelastung von Administratoren und Entwicklern, es erhöht sie.

Aber natürlich können und sollten große Konzerne, bei denen einige 10.000 Dollar weniger sind als die monatliche Füllung des Energy-Drink-Bestands, Dinge mit KI automatisieren, einschließlich Support-Foren von Diacourse. Das ist und muss das Ziel von CDCK sein – aber ich weiß nicht, wie viele davon hier ihre Gedanken mitteilen.


  1. als: Erkläre die Regeln des Baseballs und gib eine Vermutung ab, warum es eine so beliebte Sportart ist, obwohl sie so langsam und sogar langweilig ist ↩︎

4 „Gefällt mir“

Es scheint, dass die allgemeine Meinung dahin geht, dass GenAI entweder Probleme verursacht oder das Potenzial hat, in Gemeinschaften Chaos anzurichten, was den natürlichen Austausch und die menschliche Kreativität beeinträchtigt. Ich denke, wir bei Discourse AI versuchen, hier ein Gleichgewicht zu finden, damit es nur dazu dient, Ihr Schreiben zu verbessern und nicht, es vollständig für Sie zu schreiben.

@simon, ein wichtiger Punkt bezüglich der “Verwendung von KI” bei Funktionen: Sicherlich kann die Markenbildung dahinter einige Leute abschrecken und umgekehrt Leute dazu bringen, die Erkenntnis zu schätzen, dass sie mit KI interagieren.

8 „Gefällt mir“

Hauptsächlich gehemmt durch die Tatsache, dass es nicht kostenlos ist.

7 „Gefällt mir“

Wir betreiben eine kleine kreative Community für Fans, Entwickler, Autoren und Künstler von interaktiven Fiktionen. Wir haben normalerweise keine Probleme damit, dass die Moderationsaufgaben zu groß sind, und unsere Moderatoren und viele unserer Community beantworten gerne Fragen. Daher würden wir KI nicht verwenden, um „Forenarbeit“ zu leisten.

Obwohl wir KI oft im Kontext der „Texterzeugung“ diskutieren, da sie sich auf die von uns erstellten Spiele bezieht und viele Leute daran interessiert sind, haben wir eine Regel aufgestellt, dass tatsächlich von KI generierte Inhalte nicht gepostet werden dürfen, wenn ein KI-Konstrukt vorgibt, ein echter Forenbenutzer zu sein und versucht, Leute zu täuschen, um den Turing-Test zu bestehen. Wir möchten nicht, dass unser Forum als Testgelände für KI genutzt wird oder dass unsere historischen Inhalte aus dem Jahr 2006 als Feld zum Scrapen von Textinhalten verwendet werden.

Wenn Leute KI-generierte Materialien entweder für ihre eigenen Zwecke als Schreibassistenten oder als Demonstration für ein Spiel, das sie entwickeln, posten, bitten wir sie, dies anzugeben oder es wie eine Quelle zu zitieren, da es sich technisch gesehen nicht um „ihr eigenes“ Material handelt. Wir hatten mehrere Spammer, die versucht haben, teilzunehmen und Vertrauensstufen zu erhöhen, indem sie (nehme ich an) ein Thema an eine KI wie ChatGPT gefüttert und die Ergebnisse gepostet haben, damit es wie eine legitime Forenteilnahme aussieht. Da unsere gesamte Kunstform darin besteht, ein Textwerk zu schaffen, das auf die Interaktion eines Benutzers „reagiert“ (denken Sie an Textadventures wie Zork), können die meisten Leute ziemlich leicht erkennen, wenn Inhalte maschinell generiert sind, und sie melden.

Eine KI oder LLM kann den Nutzungsbedingungen und Verhaltenskodex nicht zustimmen. Wenn sie jemanden beleidigt, gibt es keine Möglichkeit, sie zu moderieren. Da wir von unseren Benutzern erwarten, dass sie transparent über diese Art von Inhalten sind, wäre es wahrscheinlich heuchlerisch, wenn unsere Website irgendeine Form von KI-Generierung für Foreninhalte und -antworten verwenden würde.

Wir mussten auch einen Flammenkrieg unterdrücken, der zu eskalieren drohte, weil viele unserer Benutzer Grafikdesigner sind, die sehr empfindlich darauf reagieren, dass ihre Online-Werke als Ausgangsmaterial für KI-Kunst gestohlen werden, und ein Thema über die Verwendung von KI-Kunst in Spielen schnell in persönliche Angriffe gegen Leute ausartete, die damit einverstanden waren. Daher ist KI eines der Themen, die wir genau beobachten müssen, um sicherzustellen, dass sie nicht im Kontext von vorsätzlichem Plagiat diskutiert wird.

TL;DR: KI ist ein Reizthema, zu dem wir Regeln aufstellen mussten, daher sollten wir sie wahrscheinlich nicht im Kontext eines Forums verwenden, das von vielen Künstlern und Schriftstellern bevölkert wird.

11 „Gefällt mir“

Wir haben die KI-Modeerscheinung satt, wenn sie meistens einen Berg von Müll produziert und im Gegenzug Umweltschäden verursacht. Ich kann es kaum erwarten, bis die Blase platzt und sich alle für das nächste dumme Ding begeistern oder, noch besser, sich auf etwas konzentrieren, das tatsächlich nützlich ist, oder einfach die grundlegende Funktionalität verbessern, die in letzter Zeit von allen ignoriert wird, um KI-Müll in alles zu stopfen, weil alle anderen dasselbe tun und es das ist, worauf ständig ignorante Investoren gerade Geld werfen.

Wahrscheinlich nicht die Antwort, die Sie wollten, aber das ist die ehrliche Wahrheit. :slight_smile:

7 „Gefällt mir“

Die Haupthindernisse hier sind die Navigation durch interne Beschränkungen für Drittanbieter-Tools und den Datenzugriff (um die Erlaubnis zum Starten zu erhalten) und das Fehlen einer klaren Methode zur Kostenschätzung (Token-Nutzung usw.), was uns daran hindert, ein Budget für die Nutzung der neuen Tools zu genehmigen zu lassen.

Ich würde gerne einige davon nutzen, insbesondere die Berichterstattung zur Stimmungsanalyse. Es scheint jedoch eine erhebliche Lücke zwischen dem Bewusstsein für die Tools und deren Implementierung zu geben.

Es gibt auch periphere Bedenken hinsichtlich der Einbringung weiterer GenAI-Inhalte in unsere Community: Es ist das wichtigste Thema, das unsere Community-Mitglieder und ihre Lebensgrundlage betrifft. Wir sehen auch eine Menge neuer Forenkonten, die offensichtliche KI-Zusammenfassungen von Threads posten (und einige ziemlich ungenaue Versuche, Fragen aus bestehenden Beiträgen zu „beantworten“), sodass unsere Benutzer bereits das Gefühl haben, dass das menschliche Element der Community von KI-Tools ertränkt wird, anstatt von ihnen unterstützt oder ergänzt zu werden.

5 „Gefällt mir“

Ich sehe viele Kommentare, die sich auf KI-generierte Inhalte konzentrieren. Ich spreche für unsere Enterprise-Community und würde gerne weiterhin in die administrative Seite von Discourse AI investieren. Das heißt, Werkzeuge, die uns helfen, unseren Führungsteams den Wert unserer Community zu zeigen. Aufgrund unserer (relativ) sauberen Kategorisierung und Verschlagwortung haben wir Discourse AI erfolgreich in unseren vierteljährlichen Geschäftsberichten eingesetzt, um Dinge wie z. B. „Hier ist die Stimmung dieser Benutzergruppe in diesen Kategorien, die über dieses Produkt sprechen, im Laufe der Zeit“ zu zeigen.

Die grafische Darstellung und die visuelle Darstellung des Werts der Community für unsere Organisation durch einen solchen Indikator hat eine unglaubliche Resonanz und fortgesetzte Investitionen hervorgerufen. Mehr davon wäre großartig und würde uns dazu bringen, tiefer einzutauchen.

Zum Thema des KI-Bots möchten wir gerne mehr Anpassungsmöglichkeiten bei der Vermittlung des KI-Bot-Erlebnisses sehen. Wir haben strenge Anforderungen daran, wie wir Benutzerdaten an KI-Dienste senden können, und haben daher unseren eigenen AWS Lambda-Dienst zwischen Discourse und AWS Bedrock aufgebaut. Die Möglichkeit, den Endpunkt, mit dem der Bot arbeitet, anzugeben, zusammen mit der Dokumentation des Objektmodells, würde es uns ermöglichen, den bestehenden KI-Bot in unserer Community vollständig zu realisieren. Vorerst haben wir unsere eigene Bot-Erfahrung mit PMs und Webhooks aufgebaut, um vorerst eine Box-Erfahrung zu simulieren.

Alles, was Sie tun können, um KI stärker in die Administration und Moderation von Discourse zu integrieren, wäre aus unserer Sicht die beste Investition. Wir müssen diese Community skalierbar für das Unternehmen aufbauen und unterstützen, und ich glaube, es gibt viele Möglichkeiten, dies mit Discourse mithilfe von KI zu ermöglichen.

12 „Gefällt mir“

Bitte wenden Sie sich an team@discourse.

Es ist sehr schade, dass „verwandte Themen“ auf Ihrer Website nicht aktiviert sind, und dies wird zu 100 % von uns gehostet (und ist bereits in allen Plänen enthalten), sodass es keine Daten-, Token- oder Preisbedenken gibt.

Ebenso hosten wir die Sentiment-Modelle selbst und würden sie gerne mit Ihnen erkunden. Ich bleibe dem Sentiment gegenüber etwas skeptisch, da ich versuche zu verstehen, welche spezifischen Beispielprobleme dies löst.

Wir untersuchen auch die Ausführung von Open-Source-Modellen auf unserer Hardware; Llama 3 ist überraschend fähig. Es ist möglich, dass wir Funktionen wie Zusammenfassungen langfristig mit unseren eigenen Modellen betreiben können, insbesondere wenn wir die 7B-Modelle überzeugend dazu bringen können.

Ich verstehe Ihre Bedenken hinsichtlich des Budgets. Discourse AI verfolgt bereits die Token-Nutzung pro Person. Wir beabsichtigen, dem Plugin Quoten hinzuzufügen.

Dies steht ganz oben auf unserer Roadmap. Wir arbeiten gerade daran, die Möglichkeit zu schaffen, auf eine URL zu verweisen und die „Sprache“ anzugeben, die sie spricht.

9 „Gefällt mir“