Аутоиммунная чрезмерность: правила анти-спам могут выглядеть как чрезмерное флейминг сообщества, затрудняя работу сообщества

Всем привет. Я управляю несколькими экземплярами Discourse, поэтому обладаю достаточным опытом работы с этой платформой с точки зрения модератора и администратора. Недавно я присоединился к новому сообществу (как совершенно новый пользователь), где используется форум на базе Discourse, и сделал несколько постов в активной теме, включив в них немного конфронтационные замечания, а в ответ на сообщения других участников опубликовал пост с рядом ссылок, дополнительно разъясняющих мою позицию. Мои три первых поста были «отмечены сообществом» (или подобным образом) и помечены как «игнорируемые». Я получил уведомление, указывающее на «руководство по поведению в сообществе» (мне не показалось, что мои посты нарушают эти правила). Мой пост со ссылками был заблокирован системой Discourse с сообщением, что в нём слишком много ссылок. Я попробовал другой подход: создал пост в блоге вне экземпляра Discourse, чтобы разместить там ссылки, и во второй попытке ответа опубликовал ссылку на этот пост в блоге. Однако система Discourse сообщила, что мой блог находится в «списке заблокированных сайтов», и мой пост не был сохранён/опубликован.

Несмотря на мой опыт работы с Discourse, из-за конкретной формулировки предупреждений системы у меня сложилось впечатление, что: а) мои посты были отмечены (то есть восприняты как оскорбительные или нарушающие правила сообщества) членами сообщества, и б) ссылка на мой блог была заблокирована модератором-человеком. Это вызвало у меня сильное раздражение и ощущение несправедливого отношения со стороны всего сайта и его сообщества.

Оказалось, что только через несколько дней модераторы-люди рассмотрели ситуацию. К тому времени у меня уже выработалось серьёзное чувство неприязни к сайту. Они сообщили мне, что отметка постов, указание на руководство по поведению в сообществе и блокировка ссылки на мой блог были полностью выполнены автоматически алгоритмами Discourse. Никакого участия людей в этом не было. Они пришли к выводу, что, по их мнению, я не нарушил правила сообщества, восстановили мои «игнорируемые посты» и разблокировали возможность добавлять ссылки на мой блог. Кроме того, они повысили мой уровень доверия, чтобы снизить вероятность подобных проблем в будущем. Они также извинились за мой негативный опыт (и согласились, что они сами тоже почувствовали бы себя неприятно, окажись они на моём месте).

Мне показалось, что формулировка предупреждений от системы Discourse была неоднозначной. Я бы очень хотел, чтобы функции борьбы со спамом и механизм репортинга, реализуемые алгоритмами Discourse, были доработаны так, чтобы было абсолютно ясно: такие меры запускаются автоматическими алгоритмами борьбы со спамом и не предполагают участия людей. Это поможет избежать подобных недоразумений в будущем.

Похоже, вы много раз ссылались на один и тот же внешний домен (URL)?

Это наверняка вызовет то, что вы описываете, когда новый пользователь создает множество новых сообщений с одной и той же ссылкой. Особенно если это происходит в первые 24 часа после создания аккаунта.

Мне нужно немного больше подробностей, чтобы быть уверенным.

Да, всё именно так — я направлял человека, желающего использовать инструменты с открытым исходным кодом (FOSS) для своего сообщества, к конкретным постам в своём блоге… Позже я осознал, что пост был заблокирован из-за большого количества ссылок в сообщении от недавно зарегистрированного пользователя… Это не проблема — проблема в неясности системного сообщения. Изначально я (вместе с системными сообщениями о моих «игнорируемых» постах) понял это так, будто мой сайт и посты были заблокированы из-за жалоб (флагинга) от участника(-ов) сообщества…

Мне показалось, что формулировки сообщений нечёткие в отношении того, кто действует — я позже выяснил, что это полностью автоматизированное алгоритмическое поведение системы Discourse, а не действия пользователей сайта или модератора.

Понимаю, спасибо, что подняли этот вопрос. Это баланс между защитой сообщества от спамеров и возможностью новым пользователям публиковать то, что они хотят.

Я согласен, что это хорошая идея, и в идеале у пользователей должна быть возможность легко пометить любое действие, к которому они были применены, для проверки.

Кстати,

Я считаю, что Discourse отлично справляется с «балансированием» между обнаружением и отметкой сообщений новых пользователей. Спам стал гораздо меньшей проблемой (и требует меньше времени на обработку и меньше кастомного кода для поддержки), чем на нашем устаревшем форуме на vBulletin.

Да, мы часто видим, что сообщения новых пользователей помечаются, потому что они копируют и вставляют код или информацию из логов в новое сообщение, запрашивая помощь, и пост помечается как «написан слишком быстро» или что-то подобное, но мы считаем это функцией, а не ошибкой.

Обнаружение и управление спамом — нетривиальная задача, и я считаю, что Discourse справляется с ней хорошо в текущем состоянии.

Я считаю, что формулировки имеют огромное значение. Крупные компании тоже часто ошибаются в этом. Недавно я хотел воспользоваться Uber Eats, но поскольку я нахожусь за границей, их системы пометили мой аккаунт. Это было похоже на теневой бан: не было никаких упоминаний о механизмах защиты от спама, только общие сообщения об ошибках. Поэтому я начал писать оскорбления в их разделе «Поддержка». Я думал, что никто это никогда не прочитает, но в итоге получил ответ и наконец-то свою еду. У них явно был процесс разблокировки, но из интерфейса не было понятно, как до него добраться. Я считаю, что эту антиутопическую новоязную риторику о «правилах сообщества» вообще следует избегать. Просто нужно написать: вас поймала система защиты от спама; вот капча, чтобы доказать, что вы не спаммер, или, пожалуйста, напишите личное сообщение модератору, объяснив, почему это не спам. Эта «речь о правилах сообщества» от крупных технологических компаний без четкого механизма обжалования и указания, какое именно правило нарушено, очень неприятна. Я думаю, что это приведет к их неизбежному краху, и лучше держаться от этого как можно дальше — как концептуально, так и на уровне языка.

Согласен, что в некоторых случаях сообщение пользователю должно быть более подробным и описывать, что именно произошло.

Прозрачность модерации крайне важна, чтобы пользователи понимали, совершили ли они ошибку и в чём именно она заключалась. Поэтому, на мой взгляд, необходимо различать сообщения, отправляемые при автоматической пометке поста, и сообщения при ручной пометке пользователями. Кроме того, пользователю следует предоставлять следующий шаг для обжалования автоматических решений (например, отправить личное сообщение модератору).

В случае пометки TL0 это особенно необходимо, поскольку это затрагивает новых пользователей, которые ещё не знакомы с системой дискуссий и могут расстроиться из-за таких неоднозначных сообщений.