Prioridade/Severidade:
Média
Plataforma:
Versão do Discourse b66fca70d0e3d12ef930398289fac5269cd240c7.
Descrição:
O Discourse fornece um sistema automatizado de detecção de spam. As ações realizadas pelo sistema quando uma postagem é detectada como spam incluem:
- silenciar a conta do autor da postagem
- sinalizar a postagem
A sinalização chama a atenção da equipe humana para revisão das ações automatizadas. Como o sistema automatizado está propenso a falsos positivos, a revisão humana é essencial.
Se o autor da postagem sinalizada a excluir após o momento da sinalização (o que ele pode se sentir obrigado a fazer após receber a notificação de que sua postagem foi sinalizada), o item de revisão é automaticamente marcado como resolvido. A conclusão usada na resolução é “ignorado”.
A conta do usuário permanece em estado silenciado. A equipe humana não terá conhecimento da ação do sistema automatizado e, portanto, não realizará a revisão essencial da ação de silenciamento.
Passos para Reprodução:
- Faça login em uma conta com privilégios de administrador em um fórum Discourse.
- Usando a conta de administrador, ajuste as instruções personalizadas em
/admin/plugins/discourse-ai/ai-spampara garantir que uma detecção de spam possa ser produzida em uma postagem de teste (por exemplo, especificando nas instruções que postagens contendo uma palavra-chave arbitrária exclusiva devem ser sempre consideradas spam). - Crie uma conta descartável no fórum.
ⓘ É necessário usar uma nova conta para este propósito, pois o recurso de Spam de IA do Discourse verifica apenas as três primeiras postagens criadas por cada usuário. - Use a conta descartável para criar uma postagem que será detectada como spam devido às instruções personalizadas configuradas pela etapa anterior.
- Aguarde a conta descartável receber uma notificação de que a postagem foi oculta.
- Use a conta descartável para excluir a postagem.
- Usando a conta de administrador, navegue até a fila de revisão, com o filtro “Status” definido como “Pendente” (configuração padrão):
/review
Não há item de revisão pendente para a ação do sistema de detecção de spam. - Usando a conta de administrador, navegue até a página de perfil da conta de usuário descartável.
A conta do usuário é permanentemente silenciada, sem qualquer garantia de que a equipe humana revisou esta ação de alto impacto. Um usuário cuja postagem foi sujeita a uma detecção de spam de falso positivo será injustamente excluído da participação na comunidade do fórum.
Contexto Adicional:
Reproduzi a falha no fórum que administro, forum.arduino.cc. Devido ao requisito de permissões administrativas, não consegui tentar reproduzir a falha em try.discourse.org.