Das andere Thema, in dem Community-Administratoren gefragt wurden, ob sie KI-Antworten zulassen, hat mich zum Nachdenken angeregt. Mit der neuen Workflows-Funktion und ein paar anderen Extras wie einem angepassten Gamification-Plugin wäre es nicht schwer, etwas zusammenzubasteln, bei dem echte Menschen Respekt-Punkte von anderen Nutzern erhalten und KI-Antworten abgestraft werden. Je mehr Respekt ein Nutzer genießt, desto stärker wiegt seine Stimme, ob positiv oder negativ.
Das in Discourse integrierte Vertrauenssystem ist im Grunde dasselbe.
Ich habe firsthand erlebt, wie Spammer das System ausnutzen. Sie posten ein KI-Thema und stimmen dann mit einem anderen Account für ihr eigenes Thema. Die KI spammt sich quasi selbst
Wäre mein „Respekt“-System einfach nur ausnutzbar, oder meint ihr, dass es das Forum selbst polizeien und menschliche Interaktion fördern könnte, während die administrative Belastung gesenkt wird?
Das Post Voting-Plugin scheint hier wirklich gut zu funktionieren.
Ich frage mich, ob es bereits KI-gestützte Konten gibt, die so aktiv sind, dass sie Posts liken, interagieren und das TL3-Level erreichen? Wenn dem so wäre, könnte das ein Problem sein.
Vielleicht wäre die Lösung dann, die Förderkriterien auf die gesammelte Punktzahl umzustellen. Das wäre aber ein grundlegender Wandel im gesamten System. Es würde eine aggressivere Gamifizierung (im wörtlichen Sinne) des Forens fördern, um Punkte zu sammeln. Aber weißt du, aggressives Posten von gutem, nicht von KI generierten Content könnte auch etwas Gutes sein…
Die Herausforderung besteht darin, dass immer mehr Menschen KI nutzen, um ihre Gedanken zu formen. Wir sehen das an der wachsenden Zahl von Leuten, die ein Thema einfach in den Editor kopieren und einfügen – ich habe sogar einen Bot, der genau diese Metrik abfragen kann, was eine zusätzliche Dimension zur Überprüfung des „KI-Anteils“ eines Beitrags bietet.
Wenn Menschen zu willigen Stellvertretern werden und den digital verarbeiteten Inhalt, den sie bereitstellen, für ihre eigenen Gedanken halten, wird ein Respektsystem zusammenbrechen.
Dafür braucht man eine gemeinsame Grundlage oder ein Wertesystem, das alle Mitglieder eines Forums teilen. Meiner Meinung nach ist das in jeder größeren Gruppe von Menschen unmöglich, geschweige denn in einer Online-Community.
Ich denke, dass Sockpuppets und Wahlringe bereits etwas sind, das Menschen tun – und dass sie zwangsläufig auch zu etwas werden, das die Agenten tun, wenn sie feststellen, dass es ihren Zielen dient.
Ich halte das für ein Wettrüsten, das man nicht gewinnen kann, und es ist eine Frage der Ökonomie, welche Gegenmaßnahmen sich lohnen.
Ich habe vielleicht schon einmal auf das Metamoderationsschema von Slashdot hingewiesen – ich war immer ziemlich beeindruckt davon. Es ist wahrscheinlich nicht allzu unterschiedlich von einem Abstimmungs-Plugin, aber möglicherweise mit zusätzlichen Mechanismen. Slashdot war eine der ersten populären Websites, die sich mit diesen Problemen auseinandersetzen mussten – es ist ein Stück Geschichte, aus dem wir lernen können, wenn wir das wollen.
