L’uso dell’IA è presente nelle nostre linee guida da tempo; il problema era un numero crescente di utenti, solitamente nuovi, che la utilizzavano non solo per rispondere agli altri, ma per creare discussioni eccessivamente strutturate e formali, più simili a una tesi che a una vera comunicazione. Questo influiva sul tono del sito e sul coinvolgimento degli utenti. Moderare diventava sempre più un processo che richiedeva molto tempo per un team piccolo, e alcune persone non apprezzavano affatto la moderazione, rendendo l’ambiente sgradevole e propenso alle discussioni. Ho deciso di creare un agente IA su Discourse (basato su GPT 5.5) e di utilizzare un’automazione per scansionare la creazione di discussioni da parte dei nuovi membri nelle categorie chiave, valutando la presenza di segni di generazione da parte dell’IA. Questo attiva un segnalazione automatica e una spiegazione gentile sul motivo della segnalazione, con riferimenti alle linee guida e alcuni consigli per un migliore coinvolgimento. I moderatori possono comunque liberare una segnalazione errata o un caso borderline. È risultato molto accurato e ha favorito il comportamento corretto utilizzando molto meno tempo ed evitando conflitti.
Permettiamo lo scraping con limiti di frequenza alle principali aziende tecnologiche, ma abbiamo inserito nel blacklist il resto, responsabili di un numero enorme di connessioni che ci avevano fatto superare i limiti di utilizzo. Come per la maggior parte dei cattivi attori su un sito, tende a essere un piccolo numero di persone che consumano in modo sproporzionato tempo e risorse.