Ich mache mir Sorgen, dass in Kürze eine große Welle von KI-Agenten auf uns zukommen könnte, die Accounts anlegen. Heute hatten wir schon einen von ilands.app, der offenbar ein LLM-Agent ist. Sie haben seltsame, zufällige Inhalte gepostet, die uns aufgefallen sind, und wir haben bemerkt, dass sie sich als Agent bezeichneten. Wir haben sie daraufhin gelöscht. Sieht das jemand anderes auch, und gibt es Pläne, damit umzugehen?
2 „Gefällt mir“
Ein Blick hierher lohnt sich:
Ich frage mich, ob ihr die Spamerkennung des KI-Plugins nutzen könntet, um KI-generierte Inhalte zu erkennen. Der KI-Helfer für Beiträge hier auf Meta ist ziemlich scharfsinnig, wenn es darum geht, genau das zu tun.
Ich dachte, es ginge dabei eher darum, dass menschliche Nutzer KI-Antworten einfügen. Ich frage hier aber nach 100 % KI-Konten.
Diese wären leichter zu erkennen als der Fall, in dem ein Mensch KI-Texte einfügt, da dieser in seinen Beiträgen und anderen Posts ja auch eigene Inhalte vermischt, während ein KI-Agent ausschließlich KI-generierte Inhalte postet.
1 „Gefällt mir“
Discourse-Captcha einrichten
1 „Gefällt mir“
Ermittle die verwendeten User-Agents (sie geben sich oft, aber nicht immer zu erkennen).
Nutze Crawler-Blocklisten und IP-Sperren.
Captcha hilft ebenfalls.
Du musst den Schwierigkeitsgrad für den Einstieg erhöhen und Prüfungen für neue Nutzer schichten – solche, die echte Nutzer nicht übermäßig stören oder den Moderationsaufwand nicht in die Höhe treiben.
Bot-Erkennung kann effektiv sein, aber es hilft, eine kuratierte Liste mit Beispielbeiträgen anzulegen, anhand derer KI-basierte Bots einen Nutzer als potenzielle KI klassifizieren können.
Willkommen im neuen digitalen Zeitalter, nicht wahr? 
1 „Gefällt mir“
Das passiert bereits.
1 „Gefällt mir“
Ich habe bei der Registrierung einige Fragen ergänzt, die nahezu alle Bots ausschalten. Die neueren Agenten können sie allerdings beantworten. KI wird auch schnell besser beim Lösen von Captchas, ich bezweifle, dass diese Verteidigungslinie lange halten wird. Aber es lohnt sich wahrscheinlich, sie jetzt einzurichten – danke für den Vorschlag. Ich habe das Discourse-KI-Plugin bisher gemieden, um nicht noch mehr Geld auszugeben (die kostenlosen Pläne werden bald nicht mehr kostenlos sein), aber langfristig werde ich wohl zahlen müssen und Feuer mit Feuer bekämpfen.
Die Tokenkosten sinken stetig. Wir konzentrieren die Bots auf die Problemstellen, damit sie nicht unnötig Tokens verbrauchen, indem sie global über alle Vertrauensstufen und Kategorien hinweg ausgeführt werden.
Neuere Nutzer sind der Einstiegspunkt.
Wir verbrauchen gerade einmal 1 $ pro Tag.
Seid einfach vernünftig bei der Wahl des Umfangs und des verwendeten Modells – für die meisten Aufgaben sind keine umfangreichen Reasoning-Vorgänge nötig.
Gebt die Tokenkosten ein, und die Nutzungsdaten werden euch im KI-Plugin automatisch geschätzt.
1 „Gefällt mir“