Nous avons rencontré un bug assez impactant lors de nos tests bêta. J’ai vu des sujets à ce sujet, mais ils semblent tous dater de plus de 3 ans, donc je ne sais pas si c’est actuellement sur la liste des priorités.
Lorsqu’un message de chat contenant une image téléchargée est signalé pour examen, la file d’attente de modération n’affiche pas l’image, ce qui empêche les modérateurs de voir ce qui a été signalé. Cela se produit à la fois dans les messages privés (MP) et pour les images publiées dans les salons de discussion. Pour les messages privés, le transcript généré automatiquement rend la situation encore plus confuse, car il affiche les messages précédents (y compris les images !), mais exclut le message signalé lui-même.
Étapes pour reproduire le problème :
- L’utilisateur A envoie un message contenant une image (le texte est optionnel, nous avons effectué des tests avec et sans texte, les résultats étaient identiques)
- L’utilisateur B signale ce message (par exemple, comme spam)
- Consultez le message signalé dans la file d’attente
/review
L’image ne s’affichera ni pour les messages privés ni pour les salons de discussion, mais le problème est plus évident dans les messages privés, car l’image est également absente du transcript.
En examinant le code du noyau, cela semble dû au fait que le gestionnaire de signalement dans /chat/review_queue.rb ne reçoit qu’une capture du message « cuit » (rendu), et que le message « cuit » ne contient jamais ses téléchargements associés.
C’est moins problématique pour les messages dans un salon, car l’équipe de modération peut théoriquement revenir en arrière et retrouver le message pour le consulter. Mais comme les modérateurs n’ont pas accès aux messages privés de chat sans usurper l’identité de l’utilisateur, l’impossibilité de voir le spam d’images ou le contenu NSFW signalé constitue un gros problème, compte tenu de ce qu’un utilisateur malveillant pourrait potentiellement envoyer.
Je suis heureux de fournir des captures d’écran de nos tests si cela peut être utile !