In den letzten zwei Wochen oder so haben wir einen Anstieg auf unserer Website verzeichnet. Wir sehen typischen Spam mit versteckten Links in neuen Antworten von neuen Konten. Als wir die Reputation für die Erstellung neuer Beiträge erhöhten, sahen wir einen Anstieg von KI-generierten Antworten, und es schien, dass die Bots versuchten, ihre Reputation langsam auf gefälschten Konten zu erhöhen. Diese Antworten enthalten keine offensichtlichen gefälschten Links, sondern nur generischen KI-Text, der nicht zur Beantwortung der Frage beiträgt.
Wir wurden über ein Wochenende mit einem großen Anstieg von Spam-Posts getroffen, genug, dass jemand ein neues Thema erstellte und sagte, es gäbe zu viel Spam in unserem Forum. Seitdem müssen Administratoren die Website täglich überprüfen, um gefälschte KI-Posts zu bereinigen. Wir sehen auch KI-Posts auf Konten, die in der Vergangenheit erstellt wurden und keine Aktivität hatten, was den Eindruck erweckt, dass einige Spam-Bots Konten eine Weile lang besiedelt und sie ohne Aktivität ruhen gelassen haben. Jetzt versuchen sie, die Engagement-Limits langsam zu überwinden, damit sie neue Themen posten können.
Wie oben erwähnt, haben wir die Vertrauensstufen für das Posten neuer Themen erhöht. Wir haben auch Akismet aktiviert. Aber das hat die KI-Spam-Posts nicht gestoppt. Derzeit benötigen wir einen Administrator/Moderator, der das Forum täglich überprüft, um markierte Beiträge zu überprüfen und zu bereinigen. Einige sind herausfordernd und sehen aus, als könnten sie von einer Person stammen, daher müssen zwei Personen überprüfen.
Wir haben unsere Benutzer ermutigt, zu helfen und Beiträge zu markieren, die wie KI aussehen, und das hat geholfen.
Unser Forum hat ein ziemlich geringes Volumen und läuft seit Jahren mit sehr geringer Bereinigung und Wartung durch Administratoren, aber es scheint, dass die KI-Bots uns gefunden haben. Ich denke, KI könnte benötigt werden, um KI zu stoppen?