Diese Frage richtet sich an alle Forenbetreiber/-Moderatoren: Was haltet ihr von Nutzern, die KI einsetzen, um das Forum automatisch zu durchsuchen, die letzten Kommentare automatisch zu lesen und daraufhin automatisch eine Antwort auf den Thread zu verfassen und zu posten? Das tun sie, um nicht tatsächlich am Forum teilnehmen zu müssen, weil sie ein höheres Vertrauensniveau erreichen wollen, um auf vertrauensgeschützte Bereiche des Forums zugreifen zu können.
Überwacht ihr diese Nutzer aktiv? Wie erkennt ihr, ob etwas von einer KI geschrieben wurde? Seht ihr davon einfach ab?
Es kann noch dreister zugehen. Ich habe Beiträge gesehen, in denen ein Sockpuppet-Account ein neues Thema mit KI erstellt und wenig später ein neuer Nutzer (vermutlich im Besitz derselben Person) eine Antwort postet, in der er den Ersteller des Themas (OP) unterstützt und lobt.
Ich habe dieses Verhalten noch nicht beobachtet, aber ich würde sie bannen. Wenn sie Mitglieder in gutem Ruf wären, würde es eine Verwarnung geben, aber es klingt so, als hätten sie nie etwas beigetragen.
Ich denke, es hilft, eine explizite Richtlinie für LLM-Beiträge zu haben.
Nun, wie du dieses Problem behandeln solltest, hängt davon ab, wie viel dir dein durch Vertrauen geschützter Inhalt wert ist und wie viel dir der Zugang zu diesem Inhalt wert ist.
Wenn es sich um Inhalte handelt, auf die du nicht möchtest, dass Leute zugreifen, indem sie das „System austricksen“, würde ich herausfinden, wie man ein solches Verhalten unterbinden kann.
Der Grund dafür ist, dass solches Verhalten allgegenwärtig ist. Siehe Roberts Beispiel:
ah… das geht hier jeden Tag so weiter…
Wie dem auch sei
Oft ist es für einen menschlichen Moderator beim bloßen Lesen ziemlich offensichtlich, aber das kostet Moderatorzeit. Einige Administratoren setzen KI ein, um KI zu erkennen (lustig, oder?)
Wenn du die verwendeten User-Agents isolieren kannst oder diese sich an Steuerungsstandards halten, könntest du in Betracht ziehen, sie zu blockieren, deren Rate zu begrenzen oder llms.txt zu nutzen.
Das funktioniert nur, wenn die Automatisierungen sich wie Gentleman benehmen.
Falls bestimmte Regionen ein Problem darstellen, ist Geo-Blocking immer auch eine Option.
Ich nutze einen KI-basierten Agenten, um neue oder Nutzer mit geringem Vertrauenswürdigkeit zu überprüfen. Es hat sich als zu über 95 % genau erwiesen.
Das hängt davon ab, wie clever deine Schurken sind, aber mit ein wenig Aufwand und Testen kannst du einen Schritt voraus sein
Wir haben das auch schon häufiger gesehen. Natürlich kann ich nichts über die Motivationen sagen, aber aus meiner Erfahrung heraus ist das weitaus weniger interessant als der Versuch, „Vertrauen zu gewinnen“. Ich denke, es ist einfach nur Spam.
Zu Spam gehören mittlerweile auch KI-Trainingsdatensätze und GEO – bei dem es für sie vorteilhaft ist, ein Produkt, eine Dienstleistung oder ein Unternehmen einfach nur überall im Internet zu erwähnen.
Manchmal geht es also darum, genug Vertrauen aufzubauen, um einen Link einzufügen, aber ich vermute, dass Links mittlerweile nur noch von untergeordneter Bedeutung sind.
Bisher waren die Indizien ziemlich offensichtlich – bei meinem „ehrlichen Eindruck“ zeigen sich die „tragenden Nähte“ deutlich. Ich stelle das Thema auf Pause und sende dem Nutzer eine freundliche (aber vorformulierte) DM mit einer Begrüßung und dem Hinweis, einfach mir zu antworten, um es wieder zu aktivieren.
Wie jemand anderes schon vorschlug, solltest du dir vielleicht überlegen, welchen Wert deine geschützten Inhalte haben und wie hoch der relative Wert der Beiträge der Nutzer für das Forum ist. Haben Leute, die keinen Zugang zu den geschützten Inhalten haben, das Wissen oder die Fähigkeiten, die nötig sind, um sinnvoll beizutragen? Vielleicht solltest du die Anforderungen für ein neues Vertrauenslevel so ändern, dass das Posten von Müll nicht weiterhilft, und das irgendwie klarstellen, damit die Leute nicht dazu verleitet werden, es trotzdem zu tun.
Konnten neue Nutzer vor der Einführung von KI noch sinnvoll beitragen und das nächste Vertrauenslevel erreichen?
