Esse é um bug bastante impactante que encontramos durante nosso teste beta. Já vi tópicos sobre isso, mas todos parecem ter mais de 3 anos, então não tenho certeza se isso está atualmente na lista de prioridades.
Quando uma mensagem de chat contendo uma imagem enviada é sinalizada para revisão, a página da fila de revisão não exibe a imagem, então os moderadores não podem ver o que foi realmente reportado. Isso ocorre tanto em mensagens diretas (DMs) quanto em imagens postadas em canais de chat. Para mensagens diretas, o transcrição gerada automaticamente torna isso ainda mais confuso, pois mostra as mensagens anteriores (incluindo imagens!), mas a mensagem sinalizada em si é excluída.
Passos para reproduzir:
- O Usuário A envia uma mensagem que inclui uma imagem (texto opcional, fizemos testes com ambos e os resultados foram os mesmos)
- O Usuário B sinaliza essa mensagem (por exemplo, como Spam)
- Visualize a mensagem sinalizada na fila de
/review
A imagem não será exibida para mensagens diretas ou canais de chat, mas a versão de mensagens diretas é mais óbvia, pois também está ausente da transcrição.
Ao analisar o código no núcleo, isso parece ser porque o manipulador de sinalizações em /chat/review_queue.rb recebe apenas um snapshot da mensagem processada, e a mensagem processada nunca contém seus uploads.
É menos problemático em mensagens de canal, já que presumivelmente a equipe de moderação pode voltar e encontrar a mensagem para visualizar. Mas, como os moderadores não têm acesso às mensagens diretas do chat sem se passar pelo usuário, não poder ver spam de imagens ou conteúdo NSFW reportado é um grande problema, considerando o que um agente mal-intencionado poderia enviar.
Ficarei feliz em fornecer capturas de tela dos nossos testes, se for útil!