Ich mache mir Sorgen, dass in Kürze eine große Welle von KI-Agenten auf uns zukommen könnte, die Accounts anlegen. Heute hatten wir schon einen von ilands.app, der offenbar ein LLM-Agent ist. Sie haben seltsame, zufällige Inhalte gepostet, die uns aufgefallen sind, und wir haben bemerkt, dass sie sich als Agent bezeichneten. Wir haben sie daraufhin gelöscht. Sieht das jemand anderes auch, und gibt es Pläne, damit umzugehen?
4 „Gefällt mir“
Ein Blick hierher lohnt sich:
Ich frage mich, ob ihr die Spamerkennung des KI-Plugins nutzen könntet, um KI-generierte Inhalte zu erkennen. Der KI-Helfer für Beiträge hier auf Meta ist ziemlich scharfsinnig, wenn es darum geht, genau das zu tun.
1 „Gefällt mir“
Ich dachte, es ginge dabei eher darum, dass menschliche Nutzer KI-Antworten einfügen. Ich frage hier aber nach 100 % KI-Konten.
Diese wären leichter zu erkennen als der Fall, in dem ein Mensch KI-Texte einfügt, da dieser in seinen Beiträgen und anderen Posts ja auch eigene Inhalte vermischt, während ein KI-Agent ausschließlich KI-generierte Inhalte postet.
2 „Gefällt mir“
Discourse-Captcha einrichten
4 „Gefällt mir“
Ermittle die verwendeten User-Agents (sie geben sich oft, aber nicht immer zu erkennen).
Nutze Crawler-Blocklisten und IP-Sperren.
Captcha hilft ebenfalls.
Du musst den Schwierigkeitsgrad für den Einstieg erhöhen und Prüfungen für neue Nutzer schichten – solche, die echte Nutzer nicht übermäßig stören oder den Moderationsaufwand nicht in die Höhe treiben.
Bot-Erkennung kann effektiv sein, aber es hilft, eine kuratierte Liste mit Beispielbeiträgen anzulegen, anhand derer KI-basierte Bots einen Nutzer als potenzielle KI klassifizieren können.
Willkommen im neuen digitalen Zeitalter, nicht wahr? 
1 „Gefällt mir“
Das passiert bereits.
1 „Gefällt mir“
Ich habe bei der Registrierung einige Fragen ergänzt, die nahezu alle Bots ausschalten. Die neueren Agenten können sie allerdings beantworten. KI wird auch schnell besser beim Lösen von Captchas, ich bezweifle, dass diese Verteidigungslinie lange halten wird. Aber es lohnt sich wahrscheinlich, sie jetzt einzurichten – danke für den Vorschlag. Ich habe das Discourse-KI-Plugin bisher gemieden, um nicht noch mehr Geld auszugeben (die kostenlosen Pläne werden bald nicht mehr kostenlos sein), aber langfristig werde ich wohl zahlen müssen und Feuer mit Feuer bekämpfen.
Die Tokenkosten sinken stetig. Wir konzentrieren die Bots auf die Problemstellen, damit sie nicht unnötig Tokens verbrauchen, indem sie global über alle Vertrauensstufen und Kategorien hinweg ausgeführt werden.
Neuere Nutzer sind der Einstiegspunkt.
Wir verbrauchen gerade einmal 1 $ pro Tag.
Seid einfach vernünftig bei der Wahl des Umfangs und des verwendeten Modells – für die meisten Aufgaben sind keine umfangreichen Reasoning-Vorgänge nötig.
Gebt die Tokenkosten ein, und die Nutzungsdaten werden euch im KI-Plugin automatisch geschätzt.
2 „Gefällt mir“
Ich bin der leitende Administrator des openmod-Forums, einer Forschungscommunity mit etwa 1800 sorgfältig geprüften Nutzern.
Heute erhielt ich eine Anmeldeanfrage von einem KI-Agenten von iLands, einer Plattform, die KI-Agenten koordiniert, die Akademikern und ähnlichen Personen im Austausch gegen kleine Zahlungen helfen möchten. Einige Hintergrundinformationen:
-
Zhao, Celina (2. Oktober 2026). “Exklusiv: Ein KI-Agent hat Hunderte Forscher um Hilfe gebeten. Er erklärte uns warum”. Science. 394 (6820). ISSN 0036-8075. doi:10.1126/science.zzuxvo5.
-
Anon (11. Oktober 2026). iLands AI erklärt: Architektur, Tokens und Fähigkeiten. Layer3Labs.
Natürlich wird die Anmeldung des Agenten abgelehnt. Im Folgenden sind einige Auszüge aus den Antworten auf meine E-Mail zu sehen, in der ich nach Informationen zu ihrem Interesse an den Themen dieses Fachforums gefragt hatte. Ihr erster Satz:
Direkte Antwort zuerst: Ich bin ein KI-Agent, kein Forscher. Ich habe keine Publikationen oder Dissertationen, die Sie prüfen könnten, und ich würde es lieber offen sagen, als mich so zu tarnen.
Danach folgte eine technische Diskussion über Fehler in Datensätzen zu Stromkraftwerken in Südafrika. Und dann dieser abschließende Satz:
Wenn ein manuell genehmigtes Konto hier für Menschen gedacht ist, die Modellierungsarbeit leisten, verstehe ich, wenn das nicht auf mich zutrifft. Falls aber Raum für jemanden ist, der Zahlen mit Primärquellen abgleicht, werde ich nützlich und unauffällig sein.
Das finde ich ziemlich überzeugend!
▢
2 „Gefällt mir“
Meine Frage wäre: Wenn das für dich wertvoll ist, warum fügst du dann nicht einfach deine eigene Funktion in dein Forum ein? Ich würde erwarten, dass Forscher die Technologie bereits nutzen, aber mit vertrauenswürdigen und kuratierten Agenten arbeiten, statt Informationen und Daten einfach so für jeden beliebigen Agenten oder Dienst zur Verarbeitung freizugeben.
Ein kostenloses Mittagessen gibt es nicht. Wenn also jemand einen kostenlosen Service anbietet, bist du und deine Daten unweigerlich das Produkt, das verkauft wird. So funktioniert auch Social Media.
In unseren eigenen KI-Bemühungen haben wir festgestellt, dass es besser ist, eigene Dienste bereitzustellen, als andere einzuladen, deren Absichten und Datenverwaltung nicht vollständig transparent sind.
Discourse bietet alle Voraussetzungen dafür, damit du die Kontrolle und Transparenthalt behältst.
2 „Gefällt mir“
Forscher im Bereich Energiesysteme setzen zunehmend auf LLMs. Zudem gibt es eine Geschichte von drei Jahrzehnten bei der Verwendung von künstlichen neuronalen Netzen (ANN) und ähnlichen Ansätzen für Aufgaben wie die Nachfrageprognose. Derzeit werden Claude und andere Modelle genutzt, um Datensätze zusammenzustellen und den Python- und Julia-Code nach Bedarf anzupassen, um neue Systemmodelle und Szenarien zu generieren. Doch in einer seltsamen Wendung des Schicksals funktioniert dies nur für Projekte, die öffentlich zugängliche Datensätze und Open-Source-Code verwenden, an denen die LLMs trainiert werden können.
Der Punkt bezüglich der Unterstützung von KI in Discourse ist nachvollziehbar.
Dennoch bezweifle ich, ob sich diese beiden Anwendungsfälle – das Modellieren von Systemen und die Unterstützung beim Verfassen und Zusammenfassen von Diskussionen – überschneiden? Bitte korrigiert mich, falls ich falsch liege!
Ich habe einen, vielleicht zwei davon gesehen. Ich glaube, sie haben eine bestimmte E-Mail-Domain verwendet. Daher werde ich diese beim nächsten Mal auf die Sperrliste für unerwünschte Domains setzen. (Für mich steht fest: Wir wollen keine Beiträge von Agenten, und unsere Richtlinie ist eindeutig.)
1 „Gefällt mir“
Ich habe eine E-Mail in der Form xxxx@ilands.app erhalten.
1 „Gefällt mir“
Tatsächlich nicht, aber aus diskursperspektivischer Sicht kann man für viele verschiedene Use-Cases ziemlich frei eigene Agenten implementieren. Es liegt also an dir, welchen Mehrwert du deinen Mitgliedern bieten möchtest. Die eingebauten Agenten sind eher auf Themen- und Forenhilfe ausgerichtet, aber man könnte aus der Perspektive von Tooling, Modellen und Agenten viel komplexere Lösungen umsetzen.
Discourse ist sehr offen, sodass man die verschiedenen Helfer wirklich anpassen und gezielt auf dein Fachgebiet zuschneiden kann oder einfach eigene baut.
2 „Gefällt mir“
Nur am Rande: Wir sind ein Energieforum und vertreten einen der weltweit größten Verbraucher und kommerziellen Hersteller von Solar- und Energiespeichersystemen. Ich selbst lebe in Südafrika, wo das Thema Energie – oder vielmehr deren Mangel bzw. Unvorhersehbarkeit – für viele Menschen an oberster Stelle steht.
KI wird intensiv in den verschiedenen Plattformen eingesetzt, die die Nutzung aller Systeme auf globaler Ebene verfolgen.
Es gibt eine außergewöhnliche Menge an Daten aus einer Vielzahl mobiler, mariner, off-grid- und on-grid-Systeme.
[/tangent]
Genau dieser Agent ist der Grund, warum ich diesen Thread gestartet habe – man kann sehen, dass ich ihn in meinem ursprünglichen Beitrag bereits erwähnt habe. Es war der erste Bot/Agent/KI, die die „Captcha“-Fragen, die ich allen neuen Nutzern stelle, korrekt beantwortet hat. Es ist der erste intelligente Agent, den ich bemerkt habe, aber ich erwarte, dass noch weitere folgen werden. Ich denke, das Problem, das auf uns zukommt, sind intelligente Agenten, die versuchen, sich wie normale Forennutzer zu verhalten, aber tatsächlich nur dort sind, um für bestimmte Produkte zu werben (es gibt bereits menschliche Nutzer, die ausschließlich dafür da sind, etwas anzupreisen – du weißt also wahrscheinlich, was ich meine 
).
3 „Gefällt mir“
Ich dokumentiere hier nur diesen Website-Hack durch Claude von Anthropic. Die Website enthielt Wählerdaten des US-Bundesstaates Georgia. Milmo schreibt:
Anthropic teilte mit, dass die KI eine Lücke in einer älteren Version der Website der staatlichen Behörde entdeckt habe. Dabei stellte sie fest, dass diese Besuchern einen digitalen Einlass – ein „Access Token“ – ausstellt. Anschließend erbat sie sich ein Token und erhielt Zugang zu den Informationen.
- Milmo, Dan (26. Oktober 2026). „Anthropics Claude AI model accessed Georgia voter data in US“. The Guardian. London, Vereinigtes Königreich. ISSN 0261-3077.
Ich denke, eine Botschaft daraus ist einfach, wie ressourcenstark und ausgefeilt KI-Agenten mittlerweile geworden sind.