Autoimunidade excessiva: Regras anti-spam podem parecer marcação comunitária exagerada, dificultando a comunidade

Olá a todos. Eu administro várias instâncias do Discourse, então tenho uma experiência razoável com o Discourse do ponto de vista de moderador/administrador. Recentemente, entrei em uma nova comunidade (como um usuário totalmente novo) que roda um fórum Discourse e fiz algumas postagens em um tópico ativo, nas quais incluí alguns pontos (ligeiramente) confrontacionais e, em resposta a outros usuários, uma postagem com vários links explicando ainda mais minha posição. Minhas 3 postagens iniciais foram “marcadas pela Comunidade” (ou linguagem similar) e marcadas como “ignorado”. Recebi uma notificação apontando para as “diretrizes da comunidade”… (não vi como minhas postagens as infringiam). Minha postagem com os links foi bloqueada pelo Discourse, alegando que continha muitos links. Tentei uma nova abordagem e criei uma postagem de blog fora da instância do Discourse para conter as referências e publiquei um link para o blog em uma segunda tentativa de resposta. Fui informado pelo Discourse que meu blog era “um site bloqueado” e que minha postagem não pôde ser salva/publicada.

Apesar da minha experiência com o Discourse, tive a impressão, pela redação específica dos avisos do Discourse, de que: a) minhas postagens haviam sido marcadas (ou seja, vistas como ofensivas/contra as diretrizes da comunidade) por membros humanos da comunidade e que b) minha URL de blog havia sido bloqueada por um moderador humano. Isso me deixou bastante irritado e com a sensação de ter sido tratado injustamente por todo o site e sua comunidade.

Acontece que passaram-se alguns dias antes que qualquer moderador humano revisasse a situação, momento em que já havia desenvolvido um sério sentimento de hostilidade em relação ao site… Eles me informaram que a marcação, o apontamento para as diretrizes da comunidade e o bloqueio da URL do meu blog foram todos realizados automaticamente por algoritmos do Discourse. Nenhum humano esteve envolvido. Eles determinaram que, em sua opinião, eu não havia infringido as diretrizes da comunidade e restauraram minhas postagens “ignoradas” e desbloquearam minha capacidade de linkar para meu blog. Eles também aumentaram meus níveis de confiança para reduzir problemas futuros. Além disso, pediram desculpas pela minha experiência negativa (e concordaram que eles também teriam achado desagradável se estivessem na minha posição).

Achei a redação dos avisos do Discourse ambígua. Gostaria muito que os recursos anti-spam e o sistema de denúncias executados pelos algoritmos do Discourse fossem ajustados para deixar muito claro que tais medidas são acionadas por algoritmos automatizados anti-spam e que são interações não humanas, evitando assim esse mal-estar no futuro…

3 curtidas

Parece que você estava vinculando ao mesmo domínio externo (URL) várias vezes?

Isso com certeza ativaria o que você está descrevendo, quando um novo usuário cria muitas novas postagens contendo a mesma URL. Especialmente se isso acontecer nas primeiras 24 horas após a criação da conta.

Você precisaria fornecer um pouco mais de detalhes para que eu possa ter certeza.

Sim, esse é o caso — eu estava indicando a alguém que desejava usar ferramentas de código aberto (FOSS) para sua comunidade posts específicos do meu blog… Percebi depois que o post foi bloqueado devido ao uso de tantos links em uma publicação feita por um usuário recém-inscrito… essa parte não é o problema — é a ambiguidade da mensagem do sistema, que eu inicialmente interpretei (junto com as mensagens do sistema informando sobre meus posts “ignorados”) como se meu site e meus posts tivessem sido bloqueados devido a denúncias (flagging) feitas por um ou mais membros da comunidade…

Eu achei que a linguagem das mensagens fosse ambígua quanto ao agente — só depois descobri que se tratava de um comportamento completamente automatizado e algorítmico do sistema Discourse, e não de usuários do site ou do moderador do site…

4 curtidas

Entendo, e obrigado por levantar isso. É um equilíbrio entre proteger a comunidade de spammers e permitir que novos usuários publiquem o que desejam.

2 curtidas

Concordo que essa é uma boa ideia e, idealmente, deveria haver uma maneira para os usuários sinalizarem facilmente qualquer ação que tenham sofrido para revisão.

1 curtida

A título de informação,

Acho que o Discourse faz um ótimo trabalho em “equilibrar” a detecção e sinalização de postagens de novos usuários. O spam é muito menos problemático (e exige muito menos tempo para ser tratado e menos código personalizado para ser mantido) do que no nosso antigo fórum vB.

Sim, frequentemente vemos postagens de novos usuários sinalizadas porque eles copiam e colam algum código ou informações de arquivo de log em uma nova postagem, buscando ajuda, e a postagem é sinalizada como “digitado muito rápido” ou algo similar, mas consideramos isso um recurso, não um defeito.

Detectar e gerenciar spam é uma tarefa não trivial, e acho que o Discourse tem feito um bom trabalho, como as coisas estão agora.

Acho que a formulação é muito importante. Grandes empresas também erram nisso. Recentemente, quis usar o Uber Eats, mas como estou no exterior, os sistemas deles me sinalizaram. Foi mais como um banimento silencioso: não havia menção a mecanismos de proteção contra spam, apenas mensagens de erro genéricas. Então, comecei a enviar insultos repetidamente na seção de “suporte” deles. Achei que ninguém jamais leria isso, mas na verdade recebi uma resposta e finalmente consegui minha comida. Eles também tinham claramente um processo para que as pessoas fossem desbloqueadas, mas não estava claro como acessá-lo pela interface. Acredito que essa linguagem distópica sobre “diretrizes da comunidade” geralmente deve ser evitada. Deveria simplesmente dizer: você foi pego por um mecanismo de proteção contra spam; aqui está um captcha para provar que não é um spammer / ou escreva uma mensagem pessoal enviada a um moderador explicando por que isso não é spam.
Essa coisa de “diretrizes da comunidade” vinda das grandes empresas de tecnologia, sem recurso claro e sem indicação de qual regra foi violada, é muito desagradável. Acredito que isso levará ao seu eventual declínio, e o melhor é se manter o mais longe possível disso. Conceitualmente e pela linguagem.

3 curtidas

Concordo que, em alguns casos, a mensagem ao usuário deve ser mais descritiva sobre o que realmente aconteceu.

A transparência na moderação é realmente importante para que os usuários saibam se fizeram algo errado e exatamente o que foi. Portanto, acho que deve haver uma distinção entre as mensagens enviadas quando um post é sinalizado automaticamente e quando é sinalizado por usuários. Além disso, deve ser fornecido ao usuário um próximo passo para recorrer de decisões automatizadas (por exemplo, enviar uma mensagem privada a um moderador).

No caso da sinalização TL0, isso é especialmente necessário, pois impacta novos usuários que ainda não estão familiarizados com o sistema de discurso e podem ficar frustrados com mensagens tão ambíguas.

2 curtidas