Wir kämpfen ebenfalls mit diesem Problem – die Erkennung von KI-generierten Inhalten wird immer schwieriger, insbesondere wenn Menschen Tools wie Humanizer nutzen, die typische KI-Merkmale verschleiern.
Aus Sicht des Community-Managements finde ich, dass die Zulassung von Chatbots auf deinem Forum die Seele deiner Community austrocknet – wenn die Leute mit einer KI sprechen wollten, hätten sie das bereits getan. Sie sind hier, weil sie mit einem Menschen sprechen möchten.
Wir haben bisher noch keine Lösung gefunden; wir haben einige Tests mit KI-Erkennungstools durchgeführt, aber es ist ein Katz-und-Maus-Spiel, und sie produzieren zu viele falsche Positive. Für jetzt haben wir eine Forenrichtlinie implementiert (die wir in Kürze stärker kommunizieren werden) und verlassen uns auf die Hilfe unserer Community-Moderatoren, um verdächtige Inhalte zu erkennen, zu prüfen und zu bereinigen.
Aber ehrlich gesagt ist das erschöpfend, und ich mache mir manchmal Sorgen um die Zukunft unserer Communities, wenn sie von Bots überschwemmt werden.
Das ist ein Grund, warum ich es vermeide, in Subreddit-Communities mitzumachen. Es gibt andere Gründe, und ich war auf Reddit nie besonders aktiv, aber heutzutage ist es so sehr von Bots geplagt, dass mich das noch mehr davon abhält, Beiträge zu veröffentlichen.
Das erinnert mich sehr an die Situation mit E-Mail Ende der 90er und Anfang der 00er Jahre. Als Systemadministrator in einer kleinen Designagentur hatten die Mitarbeiter begonnen, E-Mails im Rahmen ihrer Arbeit zu nutzen, und die Spam-E-Mails waren so überhandgenommen, dass E-Mail praktisch nutzlos wurde. Damals war es ein endloses Spiel mit dem Spam.
Wie wurde das schließlich unter Kontrolle gebracht? Wird die Nutzung von KI einem ähnlichen Weg folgen? Wird es Jahrzehnte dauern?
Dies scheint derzeit der einzige Weg zu sein, damit umzugehen. Es gibt zu viele Variablen, um KI-generierte Inhalte mit einer gewissen Zuverlässigkeit zu erkennen, und jeder, der etwas anderes behauptet, verkauft Quacksalberei. Faule Versuche sind leichter zu erkennen, aber ansonsten müssen wir jeden Beitrag nach dem Inhalt und seiner Qualität beurteilen, ohne zu raten, wie er geschrieben wurde.