Мы столкнулись с довольно серьезной ошибкой во время нашего бета-тестирования. Я видел темы об этой проблеме, но все они кажутся старше 3 лет, поэтому неясно, находится ли она сейчас в поле зрения разработчиков.
Когда сообщение чата, содержащее загруженное изображение, помечается для проверки, на странице очереди проверки изображение не отображается, поэтому модераторы не могут увидеть, что именно было сообщено. Это происходит как в личных сообщениях (ЛС), так и в изображениях, опубликованных в каналах чата. Для сообщений в ЛС автоматически сгенерированная транскрипция усугубляет путаницу, поскольку она показывает предыдущие сообщения (включая изображения!), но само помеченное сообщение исключается.
Шаги для воспроизведения:
- Пользователь A отправляет сообщение, содержащее изображение (текст необязателен, мы проводили тесты с обоими вариантами, и результаты были одинаковыми)
- Пользователь B помечает это сообщение (например, как спам)
- Просмотрите помеченное сообщение в очереди
/review
Изображение не будет отображаться ни для ЛС, ни для каналов чата, но в случае ЛС проблема более очевидна, поскольку изображение также отсутствует в транскрипции.
Изучив код в ядре системы, похоже, что это происходит потому, что обработчик флагов в /chat/review_queue.rb получает только снимок обработанного сообщения, а обработанное сообщение никогда не содержит своих загрузок.
Это менее критично для сообщений в канале, поскольку, предположительно, команда модерации может вернуться назад и найти сообщение для просмотра. Однако, поскольку модераторы не имеют доступа к ЛС в чате без имперсонации пользователя, невозможность увидеть спам с изображениями или сообщения с NSFW-контентом, на который пожаловались, является большой проблемой, учитывая, что может отправить злоумышленник.
Буду рад предоставить скриншоты наших тестов, если это будет полезно!