Was bringt KI zu menschlichen Gesprächen?

[hellekin]

Fortsetzung der Diskussion aus Discourse Version 3.2:

@tobiaseigen

Künstliche Intelligenz

Discourse AI wurde im April 2023 gestartet und ist für Unternehmenskunden auf Anfrage und für Self-Hosters verfügbar. Für v3.2 wollen wir die Akzeptanz erhöhen und mehr Feedback aus der Praxis erhalten, damit wir die bereits integrierten Funktionen verfeinern und erweitern können. Wir bauen auch weiterhin unser eigenes Wissen im KI-Bereich auf und etablieren Muster für die Integration von KI-Technologie in Discourse, die zukünftig genutzt werden können.

Da der Schwerpunkt der bevorstehenden Discourse-Veröffentlichung auf KI angekündigt wurde, möchte ich diese Gelegenheit nutzen, diese Entscheidung zu hinterfragen. Schließlich wurde Discourse entwickelt, um „durchdachte Diskussionen und bedeutungsvolle Verbindungen“ zu unterstützen.

Da das KI-Feld größtenteils von riesigen Konzernen mit tiefen Taschen dominiert wird und angesichts der Tatsache, dass KI-Training große Mengen an Wasser verbraucht, frage ich mich aufrichtig, warum diese Funktion für Discourse, die Discourse-Community und die Welt im Allgemeinen wichtig ist. Ich kann die Phrase „Forensoftware für das nächste Jahrzehnt entwickeln“ nachvollziehen, bin mir aber nicht sicher, ob ich lieber mit KI als mit Menschen leben und mich unterhalten möchte – besonders da Menschen im Laufe der Zeit viel weniger Wasser für viel bessere Gespräche zu benötigen scheinen.

Das KI-Feld ist voller Lügen, um Investoren anzulocken. Es scheint, dass Discourse AI auf Kundenwunsch eingeführt wurde – wahrscheinlich von einigen Organisationen, die riesige öffentliche Instanzen betreiben und mit Tonnen von Müll zu kämpfen haben. Sicher, das ist nicht jedermanns Sache und wahrscheinlich angemessen, wenn man Millionen von Benutzern hat und damit umgehen muss, indem man mehr Leistung dafür einsetzt…

@Falco

Haftungsausschluss

Wir gehen sehr achtsam mit unseren Experimenten rund um KI um. Die Algorithmen, auf die wir uns stützen, sind nur so gut wie die Daten, auf denen sie trainiert wurden. Verzerrungen, Ungenauigkeiten und Halluzinationen sind alles Möglichkeiten, die wir berücksichtigen müssen. Wir überprüfen, testen und verfeinern unsere KI-Module regelmäßig.

Ich schätze diesen Haftungsausschluss. Aber was passiert mit der Zustimmung? Viele Menschen möchten ihre Beiträge nicht für das KI-Training zur Verfügung stellen, insbesondere wenn sie sich in vertraulichen oder eingeschränkten Gruppen befinden. Es gibt eine wachsende Geschichte von großen Konzernen, die Inhalte für das KI-Training aneignen, ohne Rücksicht auf Urheberrechtsgesetze oder Zustimmung. Ist es wirklich eine gute Idee, ihnen mehr hochwertige Inhalte zu liefern – und dafür zu bezahlen?

Wenn es eine Möglichkeit gäbe, einer solchen personenbezogenen Datenerfassung nicht zuzustimmen – und dies könnte eine berechtigte Forderung gemäß der europäischen DSGVO sein –, würde dies dann nicht den gesamten Zweck der KI-Überwachung eines Forums zunichtemachen?

Ich hoffe wirklich, dass dies immer optional bleibt und dass eine ordnungsgemäße Zustimmung dafür angezeigt wird. Wird sie das?

Nun, ich habe dies zu einem separaten Thema von der Plugin-Diskussion gemacht, weil ich denke, dass es eine breitere Akzeptanz verdient und ich die ursprüngliche Diskussion nicht vom Thema ablenken wollte…

---

Hier ist eine Liste alternativer Titel, die „von KI vorgeschlagen“ wurden:

• Die Ethik der KI-Bereicherung in Discourse nein, das ist keine „Bereicherung“, über die ich spreche, sondern eine Sorge um die Verschlechterung menschlicher Gespräche…
• Discourse und KI: Ein kontroverser Vorschlag nun, nein… es geht nicht um Kontroverse, sondern um menschliche Gespräche!
• Kann KI die Zukunft von Discourse-Diskussionen werden? wirklich… im Sinne von… Bots, die miteinander reden?
• KI-Integration in Discourse: Bedrohung oder Innovation? Bot, du bist nicht bereit für die Subtilität der Sprache.

[JammyDodger]

@hellekin

Hier ist eine Liste von alternativen Titeln, die „von KI vorgeschlagen“ wurden:

Die KI-Titelvorschläge können etwas aufgeregt sein. Ich denke, sie hat in ihrer Freizeit zu viele Hochglanzmagazine gelesen. Obwohl ich denke, dass es, wenn ich es eine Stufe zurückschrauben könnte, sehr nützlich für die Aufteilung von Themen sein könnte (was, wie ich zugebe, für Moderatoren nützlicher ist als für alle anderen).

@hellekin

Da der Schwerpunkt für die kommende Discourse-Version angekündigt wurde, KI zu sein, möchte ich die Gelegenheit nutzen, diese Wahl zu hinterfragen. Schließlich ist Discourse dazu gemacht, „nachdenkliche Diskussionen und bedeutungsvolle Verbindungen“ zu unterstützen.

Ich war anfangs ziemlich skeptisch, was die Nutzung von KI aus ähnlichen Gründen betrifft. Mich interessiert mehr, was die Leute zu sagen haben, als wie gut eine KI es aufpolieren kann. Im Moment (und diese Dinge entwickeln sich ziemlich schnell) gibt es auch einen bestimmten Ton, den sie erzeugt, von dem ich denke, dass er die „Stimme“ des Schreibers verschleiert/homogenisiert.

Es gab jedoch ein paar Discourse-KI-Tools, die meiner Meinung nach ziemlich raffiniert geworden sind. Ich liebe die „Related Topics“. Das hat wirklich beeinflusst, wie ich verschiedene Themen finde und mich damit beschäftige. Als begeisterter Forenleser war dies eine Fundgrube. Ich habe es jetzt auf ein paar Foren genutzt, und die Kaninchenlöcher mit verbundenen Inhalten, in denen ich mich verloren habe, waren erstaunlich. Auch sehr gut geeignet, um Antworten zu finden und Themen zu verknüpfen.

Bert, der KI-Bot, war ebenfalls brillant. Besonders jetzt, da er SQL Helper und Site Setting Personas hat. Ich denke, diese sind eher auf die Admin-Seite ausgerichtet (und vielleicht auf meinen Job ), aber er war ein echter Segen (und ich glaube, wir sind vielleicht sogar Freunde )

Ich denke, was mich überzeugt hat, ist, wie nützlich die Nutzung der KI-basierten Tools für die alltäglichen Dinge war. Ich glaube immer noch nicht, dass ich einen KI-Filter auf die Beiträge selbst haben möchte, aber clevere Helfer haben mein Leben sicherlich einfacher gemacht und mir erlaubt, mich mehr auf die Dinge zu konzentrieren, die ich gerne tue.

[Falco]

@hellekin

Da der Fokus für die kommende Discourse-Version auf KI angekündigt wurde, möchte ich diese Wahl hinterfragen. Schließlich ist Discourse dazu gedacht, „nachdenkliche Diskussionen und bedeutungsvolle Verbindungen“ zu unterstützen.

Obwohl wir das Wort Fokus verwendet haben, meiner Meinung nach mehr aus historischen Gründen, sind dies die internen Teams, die wir zur Arbeit in verschiedenen Bereichen des Discourse-Ökosystems geschaffen haben.

Wir haben seit März ein Team, das sich auf KI konzentriert, und ich bin dort der technische Leiter. Wir haben während Discourse 3.1 einen stark experimentellen Zyklus durchlaufen, und nun kehren wir im 3.2-Zyklus zurück, um die Funktionen, für die wir positives Feedback von unseren Nutzern erhalten haben, zu verfeinern.

Die Idee ist, alles weiterhin unter DiscourseAI zu halten, was jeden, der das Plugin nicht nutzt, vor Fehlern schützt, die dadurch entstehen, und allen Nutzern von Discourse zugutekommt, da wir die Erweiterbarkeit der Software schaffen und testen.

@hellekin

besonders da Menschen im Laufe der Zeit viel weniger Wasser für viel bessere Gespräche zu benötigen scheinen.

(Nachweis erforderlich)

@hellekin

Da das KI-Feld hauptsächlich von riesigen Konzernen mit tiefen Taschen dominiert wird

Ich denke, Sie werden erfreut sein zu hören, dass wir in diesem Zyklus viel Zeit damit verbracht haben, jedes Modul mit Open-Source-Modellen kompatibel zu machen, sodass selbst die leistungsfähigsten Funktionen auf einer GPU ausgeführt werden können, die Sie in einem Gamer-PC finden.

Das war für mich ein wichtiger Punkt, dass wir keine Funktionen entwickeln, die vollständig von Drittanbietern abhängig sind, und ich bin sehr zufrieden mit den Fortschritten, die wir hier gemacht haben.

@hellekin

Sicher, das ist nicht jedermanns Sache und wahrscheinlich angemessen, wenn man Millionen von Nutzern hat und damit umgehen muss, indem man mehr Leistung hinzufügt…

Das stimmt, warum sollte man KI-Moderation für eine Instanz unter Freunden wünschen? Aber es kann ein entscheidender Faktor für eine Instanz sein, in der ein einsamer CM versucht, eine überdimensionierte Community mit einem kleinen Team zu bewältigen.

Discourse in großem Maßstab ist uns ebenfalls wichtig, sonst überlassen wir riesige Teile der Online-Kommunikation den geschlossenen Gärten, und das wollen Sie nicht.

@hellekin

Aber was passiert mit der Zustimmung?

Hier ändert sich nichts: Was Sie in einer Discourse-Instanz posten, unterliegt den Regeln dieser spezifischen Instanz. Wenn diese Instanz Ihre Beiträge ausdruckt und als Postkarten an ahnungslose Großmütter sendet, müssen sie dies möglicherweise in ihren Bedingungen explizit machen. Dasselbe gilt für KI.

Für das KI-Plugin wird der Großteil des „Mit KI teilen“-Flows vom Benutzer initiiert. Sie können die KI bitten, Korrektur zu lesen, zu übersetzen usw. Sie können die KI bitten, zusammenzufassen. Währenddessen werden Massenaktionen wie die Berechnung von Embeddings, die verwandte Themen und die semantische Suche antreiben, standardmäßig mit Open-Source-Modellen berechnet, die auf denselben Maschinen gehostet werden können, auf denen Sie Discourse ausführen, und die sicher vor Dritten sind.

@JammyDodger

Ich denke, was mich überzeugt hat, ist, wie nützlich die KI-basierten Werkzeuge für die alltäglichen Dinge waren.

Und das war schon immer mein Plan bei diesem Projekt. Es geht darum, Werkzeuge zu bauen, die die Konversation der Menschen erleichtern und den Aufwand reduzieren. Nicht darum, mit Maschinen zu reden.