Приоритет/Серьезность:
Средний
Платформа:
Версия Discourse b66fca70d0e3d12ef930398289fac5269cd240c7.
Описание:
Discourse предоставляет автоматизированную систему обнаружения спама. Действия, выполняемые системой при обнаружении спам-сообщения, включают:
- замолчание аккаунта автора сообщения
- пометку сообщения флагом
Флаг привлекает внимание человеческих сотрудников к автоматизированным действиям для проверки. Поскольку автоматизированная система склонна к ложным срабатываниям, проверка человеком является обязательной.
Если автор помеченного сообщения удаляет его после времени постановки флага (что он может счесть необходимым сделать после получения уведомления о том, что его сообщение помечено), элемент проверки автоматически помечается как разрешенный. Вывод, используемый при разрешении, — «проигнорировано».
Аккаунт пользователя остается в состоянии замолчания. Человеческие сотрудники не будут осведомлены о действии автоматизированной системы и, следовательно, не проведут необходимую проверку действия замолчания.
Шаги для воспроизведения:
- Войдите в аккаунт с правами администратора на форуме Discourse.
- Используя аккаунт администратора, измените пользовательские инструкции на
/admin/plugins/discourse-ai/ai-spam, чтобы обеспечить возможность обнаружения спама в тестовом сообщении (например, указав в инструкциях, что сообщения, содержащие уникальный произвольный ключевой слово, всегда должны считаться спамом). - Создайте временный аккаунт на форуме.
ⓘ Для этой цели необходимо использовать новый аккаунт, поскольку функция Discourse AI Spam сканирует только первые три сообщения, созданные каждым пользователем. - Используя временный аккаунт, создайте сообщение, которое будет обнаружено как спам из-за пользовательских инструкций, настроенных на предыдущем шаге.
- Дождитесь получения временным аккаунтом уведомления о том, что сообщение скрыто.
- Используя временный аккаунт, удалите сообщение.
- Используя аккаунт администратора, перейдите в очередь проверки, установив фильтр «Статус» на «Ожидание» (настройка по умолчанию):
/review
Нет элемента проверки в ожидании для действия системы обнаружения спама. - Используя аккаунт администратора, перейдите на страницу профиля временного аккаунта пользователя.
Аккаунт пользователя навсегда замолчан без каких-либо гарантий того, что человеческие сотрудники проверили это крайне важное действие. Пользователь, чье сообщение стало результатом ложного срабатывания обнаружения спама, будет несправедливо исключен из участия в сообществе форума.
Дополнительная информация:
Я воспроизвел ошибку на форуме, которым управляю forum.arduino.cc. Из-за требования административных прав я не смог попытаться воспроизвести ошибку на try.discourse.org.
