Ótimo artigo! O Discourse parece estar indo bem e está avançando com os olhos abertos. Tenho certeza de que o Discourse está atento para não se tornar complacente — como observado, é uma corrida armamentista.
A moderação assistida por IA provavelmente faz parte da solução, mas, como mencionado, moderadores são necessários, precisam saber o que estão fazendo e ter as ferramentas adequadas para apoiá-los.
É bom estudar a história. Gosto do exemplo do Slashdot: pontos de moderação limitados e meta-moderação para proteger os guardiões. (Também gosto do sistema de upvote multidimensional: interessante, informativo, engraçado, etc.)
Não tenho certeza se o Reddit está indo tão bem: vejo reclamações sobre o conjunto de ferramentas dos moderadores e já vi subreddits desaparecerem devido a moderação excessiva ou inativa. Quando novas postagens ficam presas no purgatório por muito tempo, isso desmotiva. No entanto, manter postagens para aprovação é uma ferramenta poderosa.
Recentemente precisei ajustar as configurações do meu fórum quando recebemos uma onda de cadastros de spammers. A verificação por e-mail não é a solução completa, como todos nós certamente sabemos.
Brigading e sockpuppetry também são problemas — não se trata apenas de bots de spam.
Sempre há mais trabalho a ser feito…