Предложение: разрешить модераторам замалчивать, а не удалять пользователей, отмеченных Akismet

[tobiaseigen]

Это запрос на комментарии! Поможет ли это вам улучшить рабочий процесс модерации? Что-то упущено или сделано неправильно?

В настоящее время, если новый пользователь регистрируется и помечается Akismet как спамер, у модератора, обрабатывающего флаг, есть только два варианта: Нет и Удалить пользователя.

Не редкость, когда клиенты сообщают, что им некомфортно сразу удалять пользователя или что они не могут сделать это по юридическим причинам. Они предпочитают заглушить пользователя, чтобы выиграть время для расследования, а также дать пользователю возможность доказать, что он не спамер и заслуживает членства в сообществе. Сделать это неудобно, так как приходится выбирать Нет, а затем переходить в список администраторов пользователей, чтобы найти и заглушить пользователя.

Предлагается добавить здесь опцию Заглушить пользователя. Функциональность заглушения пользователей и информирования их о причинах и сроках заглушения уже существует и хорошо проработана. Поля заглушения пользователя будут предварительно заполнены. Akismet пока не будет обучен тому, что этот пользователь — спамер.

Позже модераторы могут разглушить пользователей или удалить их. Если они удаляют их, то должны иметь возможность в этот момент обучить Akismet тому, что это спам. Не уверен, что это сейчас работает так, даже если выбрано Удалить и заблокировать этот адрес электронной почты и IP-адрес. Логично, что это должно быть так.

Итак, вкратце, рабочий процесс модератора мог бы выглядеть так:

1. Akismet помечает спамера.
2. Модератор проверяет помеченного пользователя и решает, что делать:
   • Не спамер → пользователю разрешено присоединиться к сайту, Akismet не обучается.
   • Удалить спамера → Akismet обучается немедленно.
   • Заглушить спамера → Akismet пока не обучается.
3. После подходящего ожидания модератор удаляет заглушенного спамера:
   • Только удаление → Akismet не обучается.
   • Удалить и заблокировать → Akismet обучается.

Модераторы также могут просто позволить заглушенным пользователям накапливаться — от этого нет никакого вреда, так как они заглушены и находятся в базе данных.

Задачи, которые нужно выполнить:

• Добавить опцию Заглушить при проверке пользователей, помеченных Akismet как спам.
• При выборе этой опции модальное окно заглушения должно быть предварительно заполнено сроком «Навсегда» и причиной заглушения «Другое → Спам пользователя».
• После отправки пользователь заглушается и получает письмо о заглушении.
• Действие сотрудника фиксируется в базе данных.

Связанные задачи, которые, по моему мнению, также стоит выполнить:

• Ограничить доступ к профилям заглушенных пользователей.
• Проверить, как работает функция Удалить и заблокировать этот адрес электронной почты и IP-адрес, и если она не обучает Akismet при удалении пользователя в этом случае, добавить такую возможность.

[mattdm (Matthew Miller)]

Думаю, это в целом было бы полезно, да.

@Tobias Eigen

• не спамер → пользователю разрешено присоединиться к сайту, Akismet не обучен
• удалить спамера → Akismet обучается немедленно
• замолчать спамера → Akismet не обучен (пока)

Думаю, в третьем варианте не стоит использовать слово «спамер» — ведь если они уже известны как спамеры, то кнопка «удалить» прямо перед глазами. Может быть, лучше что-то вроде «поместить на удержание»?

Могут ли замолчанные пользователи писать модераторам? Мне хотелось бы реализовать что-то вроде этого:

1. Обнаружен возможный спамер
2. Ситуация неясна, поэтому модератор выбирает «поместить на удержание»
3. Пользователь замолчан, но…
4. Пользователь получает личное сообщение о том, что автоматизированная система поместила аккаунт на удержание для проверки, и что он может ответить, предоставив дополнительную информацию, если пожелает
5. Если пользователь не отвечает в течение определённого времени, аккаунт автоматически удаляется
6. Если пользователь отвечает, модераторы получают кнопки: «ответить и оставить», «ответить и удалить», «просто удалить и жить дальше».

[tobiaseigen]

Я не совсем уверен, каковы последствия блокировки. Я полагаю, что заблокированные пользователи могут отправлять личные сообщения модераторам, а также могут отвечать на электронное письмо, которое они получают при блокировке, если такое письмо отправляется.

Я также проверил и увидел, что у заблокированных пользователей всё ещё есть профили. Мне это кажется неправильным. Если пользователь признан проблемным по какой-либо причине, почему его профиль должен оставаться видимым для всех?

Другой вопрос, на который я хотел бы получить ответ: что происходит, когда пользователь впоследствии удаляется модератором через панель управления пользователями? Сообщается ли также в Akismet, если выбрано опция Удалить и заблокировать этот адрес электронной почты и IP-адрес?

[mattdm (Matthew Miller)]

@Тобиас Айген

Я тоже проверил и вижу, что у заблокированных пользователей всё ещё есть профили. Мне это кажется неправильным. Если пользователь признан проблемным по какой-либо причине, почему его профиль всё ещё должен быть виден всем?

Думаю, их блокируют, и причина указывается в их профиле? (Если так, то это тоже потенциально проблематично.)

Но: блокировка часто является первым шагом в политике реагирования на нарушение кодекса поведения с нарастающими последствиями. Цель — попросить участника сайта немного успокоиться, а не заставить его исчезнуть.

Кажется, возможно, нужен другой уровень — скрытый? (Это, как я полагаю, также скроет все сообщения этого пользователя?)

[tobiaseigen]

Мы могли бы добавить причину «Профиль пользователя» для блокировки и в этом случае скрывать профиль до тех пор, пока пользователь не будет разблокирован?

Меня интересует больше мнений от других сайтов о том, как они справляются со спамом от пользователей, обнаруженным Akismet, или как они работают с пользователями, публикующими неподобающий контент в своих профилях.

Также возможно ли отметить пользователя с помощью системы флагов при просмотре его профиля? Я не думаю, что это возможно. Это могло бы быть полезно, чтобы члены сообщества могли сообщать модераторам, когда они сталкиваются со страницей профиля пользователя, которая, по их мнению, является неподобающей или спамной.

[not-ethan (Ethan)]

Некоторая информация о пользователях, которые находятся в режиме «молчание»:

@sam

Молчание

Независимо от того, установлено ли это вручную сотрудниками или когда аккаунт помечен системой спам-фильтра как проблемный, все возможности публикации отключаются.

• Аккаунт не может отвечать на темы
• Аккаунт не может создавать новые темы
• Аккаунт не может создавать личные сообщения, но может отвечать на них
• Аккаунт не может создавать флаги
• Аккаунт всё ещё может ставить лайки и добавлять в закладки
• Аккаунт может менять настройки профиля и раздел «Обо мне» (TBD, является ли это хорошей идеей)
• Режим рассылки перестает работать

Хранение данных: булево поле silenced в таблице users

Причины наложения «молчания» не публикуются, но причины приостановки — публикуются.

Что касается того, почему причины приостановки публичны, я не думаю, что об этом когда-либо говорилось здесь, но когда приостановки впервые были добавлены в Stack Exchange (Джефф Аткивуд ещё работал там, он написал об этом в блоге, если не ошибаюсь), было сказано, что это отпугивает других пользователей, так как это то, что они видят: модераторы принимают меры.

---

Что касается сайта, который я модерирую, то большинство отчётов, которые мы получаем, не связаны со спамом. Если мы не уверены, мы проверяем их профиль на основном сайте (это форум для компании, поэтому у нас есть SSO) и смотрим, есть ли у нас там какая-либо информация. Если мы всё ещё не уверены, мы разрешаем действие, а при необходимости предпринимаем меры позже.

[tobiaseigen]

Вау! Это очень интересно. Значит, заблокированные пользователи всё ещё являются частью сообщества… им просто приходится наблюдать молча. Меня удивляет, что они всё ещё могут ставить лайки.

Я считаю, что имеет смысл разрешить им изменять свой профиль «Обо мне», особенно если причина блокировки в том, что профиль выглядит как спам или содержит какие-то другие проблемы, и модератор попросил исправить это до разблокировки.

Теперь я вспоминаю, что у нас есть функция «добавить rel nofollow к пользовательскому контенту», которая, как я полагаю, также распространяется на профили пользователей. Так что вы можете разместить там любой спам, но поисковые системы никогда его не обнаружат.

[Jagster (Jakke Flemming)]

@Тобиас Айген

Заглушённые пользователи всё ещё являются частью сообщества… они просто вынуждены наблюдать молча

Разве это не логично? Они… заглушены. Не забанены и не что-то ещё.

[JammyDodger]

@Тобиас Айген

Я удивлён, что они всё ещё могут ставить лайки.

Я согласен с этим, особенно теперь, когда нужно учитывать реакции.

Я также считаю, что возможность отвечать на личные сообщения от не-сотрудников должна быть удалена.

Это сделало бы режим «Тихий» более эффективным как промежуточное состояние, где взаимодействия в сообществе запрещены, но списки непрочитанных сообщений продолжают отслеживаться, закладки продолжают работать, а общение с модераторами через личные сообщения остаётся возможным и т. д.

[Loki (Wyze Loki)]

Это отличное предложение. В нашем сообществе мы предпочитаем заглушать спамеров (даже если мы на 99,9% уверены, что это спам), а не удалять их.

Кажется, было бы лучше отделить обратную связь от Akismet от предпринимаемых действий. В уведомлении от Akismet варианты могли бы быть такими: «Является ли это спамом профиля: Да/Нет/Не уверен».

Если ответ «Нет», то всё как сейчас: Akismet узнаёт, что ошибся, и никаких действий с профилем не предпринимается.

Если ответ «Да», то Akismet узнаёт, что был прав, и модератору предлагаются варианты: удалить пользователя или заглушить его.

Если ответ «Не уверен», то Akismet не получает обратной связи ни в ту, ни в другую сторону, а модератору предлагаются варианты: удалить, заглушить или не предпринимать никаких действий с профилем.

[tobiaseigen]

Интересно, сколько сайтов вместо удаления спамеров просто их замалчивают. Насколько это распространено? Было бы здорово услышать мнение других сайтов об их рабочем процессе при работе с регистрациями спамеров.

[mattdm (Matthew Miller)]

Кстати, мы удаляем спамеров. Не понимаю, зачем кто-то мог бы этого не делать.

[not-ethan (Ethan)]

Некоторые предпочитают не блокировать по IP (особенно если они используют VPN), поэтому лучше навсегда приостановить их аккаунт, а не удалять.

[Loki (Wyze Loki)]

Юридические отделы некоторых организаций не хотят, чтобы их удаляли без возможности оспорить это решение.

[Heliosurge (Dan DeMontmorency)]

@JammyDodger

@tobiaseigen

Я удивлён, что они всё ещё могут ставить лайки.

Я согласен с этим, особенно теперь, когда нужно учитывать Реакции.

Также считаю, что возможность отвечать на личные сообщения (ЛС) от не-сотрудников должна быть отключена.

Я бы оставил это в виде настраиваемых опций, а не принудительных изменений в ядре системы.

Что касается ЛС: пользователи могут отвечать только на полученные ими сообщения и не могут создавать новые. Большинство пользователей в моём опыте (XP) не осознают эту возможную лазейку и обычно не представляют особой угрозы.

Однако я считаю, что заглушённого пользователя следует предлагать обратиться к сотрудникам, если он хочет пересмотра своего статуса или попытки решения проблемы, поскольку не на всех сайтах системного пользователя заменяют на реального модератора.

[MikeNolan]

@Мэтью Миллер

Мы удаляем спамеров. Не понимаю, почему кто-то мог бы этого не делать.

Часто всё сводится к тому, что человек считает спамом. Хотя большинство спама соответствует стандарту судьи Поттера Стюарта («я узнаю его, когда вижу»), я сталкивался с тем, что Akismet помечал как спам совершенно приемлемые посты без каких-либо видимых причин. Я также участвовал в сообществах, где почти всё, что выходит за рамки темы, особенно если это имеет «коммерческий» оттенок, считается спамом, даже если Akismet пропускает такие сообщения.

Кроме того, у меня было немало пользователей, чьи аккаунты были взломаны и использовались для рассылки спама без их ведома.

Поэтому в любом конкретном сообществе могут существовать смягчающие обстоятельства при объявлении кого-либо спамером, особенно если это влечёт за собой действия, которые трудно отменить, или если не соблюдается какой-либо процессуальный порядок.

Иногда действительно необходимо объяснить «спамеру», что допустимо, а что нет. Я заметил, что большинство людей прислушиваются к разумному объяснению стандартов сообщества, хотя есть и такие, кто просто хочет создавать проблемы или считает, что правила к ним не должны применяться.

[Heliosurge (Dan DeMontmorency)]

Этот плагин мог бы стать хорошим кандидатом для ядра. Не уверен, позволит ли он также молчащему пользователю писать личные сообщения сотрудникам и/или группе.

Allow-pm-to-staff

Summary Allow all users to PM Staff Repository Link https://github.com/pfaffman/discourse-allow-pm-to-staff Install Guide How to install plugins in Discourse Features Allow users to send a PM to staff even if they would not otherwise be able to send a PM. Configuration allow_pm_to_staff_enabled–Enables the plugin (default true) allow_pm_allowed_pm_groups–Set groups who can receive PMs from all users (default “staff”). S…

Очень полезно для новых регистраций пользователей.

[mattdm (Matthew Miller)]

@Mike Nolan

Иногда то, что действительно нужно, — это объяснить «спаммеру», что приемлемо, а что нет. Я заметил, что большинство людей прислушиваются к разумному объяснению стандартов сообщества, хотя есть те, кто просто хочет создавать проблемы или считает, что правила к ним не применимы.

Я имею в виду кое-что очень конкретное: спаммер — это человек, чья единственная цель на форуме — привлекать трафик на коммерческий сайт, сайт с мошенничеством или вредоносным ПО. Они не действуют под реальной личностью, которая по-настоящему связана с реальным человеком — не в смысле «политики использования реальных имен», а буквально. Аккаунт полностью автоматизирован или управляется каким-то дешевым кликабельным сайтом.

Я понимаю, о чем вы говорите, касаясь пограничных случаев, когда человек является реальным, но постоянно публикует ссылки на один и тот же сайт или рекламирует услуги там, где это запрещено. Для меня это другая проблема, чем та, которую я описываю, но я признаю, что некоторые люди и сообщества действительно называют такое поведение «спамом».

[MikeNolan]

По умолчанию первые несколько сообщений от новых пользователей будут удерживаться на проверке сотрудниками. Я не знаю, видит ли Akismet их до или после проверки сотрудниками.

Мне нравится идея, что Akismet (или другие детекторы спама) просто заглушают спамеров, а не удаляют их, потому что, на мой взгляд, удаление аккаунта злоумышленника должно быть функцией сотрудников. Должен быть способ для заглушенного пользователя связаться с сотрудниками, хотя бы в целях соблюдения процедуры.

Некоторые боты становятся довольно изощренными и могут легко обмануть человека, заставив его поверить, что это живой человек, а не автоматизированный скрипт. С развитием ИИ это будет только усугубляться. Будет ли Discourse разрабатывать инструменты на основе ИИ для борьбы с вредоносными аккаунтами, использующими ИИ?

Ещё один возможный вариант — создать отдельный статус (например, «карантинный спаммер»), отличный от статуса «заглушенный», с набором опций, отличным от тех, что используются для заглушения нарушителей. Это может быть полезно в крупных сообществах, где в любой момент времени может быть несколько заглушенных пользователей, так как их можно будет искать отдельно. Однако это, скорее всего, потребует более сложной реализации.