Прозрачность в модерации действительно важна

Создание сообщества
1

https://shagunjhaver.com/files/research/jhaver-2019-transparency.pdf

Действительно ли прозрачность модерации имеет значение? Поведение пользователей после получения объяснений удаления контента на Reddit

Когда посты удаляются на платформе социальных сетей, пользователи могут получать объяснение, а могут и нет. Какие именно объяснения предоставляются? Имеют ли эти объяснения значение? Используя выборку из 32 миллионов постов на Reddit, мы описываем предоставляемые пользователям объяснения удаления и связываем их с показателями последующего поведения пользователей, включая будущие публикации и будущие удаления постов.

Применив подход тематического моделирования, мы показали, что объяснения удаления часто содержат информацию, обучающую пользователей социальным нормам сообщества, тем самым (теоретически) подготавливая их к тому, чтобы стать продуктивными участниками. Мы построили регрессионные модели, которые демонстрируют, что объяснения удаления играют роль в будущей активности пользователей. Наиболее важно то, что мы показали: предоставление объяснений при модерации контента снижает вероятность будущих удалений постов. Кроме того, объяснения, предоставленные человеческими модераторами, не имели значительного преимущества перед объяснениями, предоставленными ботами, в снижении частоты будущих удалений постов.

Мы предлагаем решения в области дизайна, способствующие эффективному использованию механизмов объяснений, и размышляем о том, как инструменты автоматизированной модерации могут внести вклад в эту область. В целом, наши результаты свидетельствуют о том, что объяснения удаления могут быть недостаточно использованы в практике модерации, и администраторам сообществ может быть целесообразно инвестировать время и ресурсы в их предоставление.

9 лайков
2019: The Year in Review
Suggestion for posts hidden by community flags
2

Кстати, я не читал содержание той статьи, так что это просто общий комментарий о модерации и прозрачности модерации.

Discourse уже отлично работает и превосходит большинство форумных движков — пользователи получают уведомления о большинстве действий модераторов. Однако, по моему мнению, нам определённо стоит расширить возможности модерации.

Для примера: мы регулярно удаляем из сообщений нецензурную лексику или личные нападки, и некоторые пользователи на это жалуются, прося, чтобы их самих просили внести изменения, а мы не трогали их посты.

Конечно, это непрактично — вся суть действий модератора по удалению личных нападок в том, чтобы человек, на которого направлена атака, её не увидел, что могло бы привести к эскалации. Кроме того, у модераторов нет времени на то, чтобы писать пользователям в личные сообщения с просьбой внести изменения, фиксировать инцидент, помнить о необходимости проверки, снова писать пользователю или предпринимать другие действия, если требуемые изменения не внесены — это слишком большая нагрузка на команды модераторов.

Альтернативой могло бы стать использование системы флагов, скрывающей пост, но что, если пользователь просто отменит скрытие или не внесёт достаточных изменений? Нам всё равно придётся записывать необходимость проверки, снова открывать пост и так далее. (Кроме того, скрытие поста из виду имеет и другие негативные последствия: может замедлить ход обсуждения, заставить людей чувствовать, что писать слишком хлопотно и т. д. — всё это обычно можно избежать с помощью очень простого редактирования модератором.)

Я твёрдо верю, что Discourse может вывести модерацию на новый уровень, как это уже произошло с другими аспектами форумного ПО :smiley: Однако для этого потребуется гораздо больше размышлений, чем просто один пост или тема — модерация — дело сложное (никто не любит, когда его модерят!)

Я с радостью принял бы участие в таких обсуждениях и уверен, что @HAWK был бы неоценим в таких усилиях.

6 лайков
3

Это немного зависит от ситуации.

Что касается серьёзных нарушений, таких как расистские, сексистские или ксенофобские оскорбления, я не считаю, что есть смысл оставлять токсичный мусор, который продолжает отравлять сообщество, например:

image
image560×998 403 KB

Для более лёгких нарушений, конечно, можно отредактировать пост и оставить уведомление от администрации.

image
image1380×184 25.7 KB

6 лайков
4

Я полностью согласен — у меня в комнате для сотрудников есть такая заметка:

Всем привет,

Один из наших участников недавно открыто заявил о своей _____. Хотя маловероятно, что он столкнётся с какими-либо оскорблениями со стороны настоящих членов сообщества, возможно, кто-то, кто имеет личную обиду к [теме форума] или сообществу, может использовать его как лёгкую мишень или способ разжечь конфликт между сообществами.

  • Если автор сообщения «новый» (то есть недавно зарегистрировавшийся и имеющий очень мало постов) и он допускает расистские, трансфобные, гомофобные или сексистские высказывания — пожалуйста, немедленно заблокируйте его аккаунт и удалите все оскорбительные сообщения. В уведомлении о блокировке можно просто написать: «Комментарии нарушают наш Кодекс поведения».
  • Если автор сообщения — постоянный участник, пожалуйста, удалите оскорбительное сообщение/сообщения и отправьте пользователю личное сообщение, сообщив, что пост был удалён, потому что вы считаете его нарушающим наши правила, и попросите воздержаться от дальнейших постов в этой теме (или от контактов с другим пользователем, если был вовлечён другой участник) до тех пор, пока член команды администраторов не рассмотрит ситуацию и не свяжется с ним напрямую. Если они проигнорируют это уведомление и продолжат постить в теме или совершать оскорбительные действия, приостановите их аккаунт с сообщением «Неисполнение запроса модератора. Ожидает проверки администратором».

Затем, пожалуйста, регистрируйте все инциденты в этой теме, и мы рассмотрим каждый случай, чтобы определить, какие действия могут быть необходимы. Если меня нет на месте, а проблемы продолжаются (например, когда другие обсуждают вопрос в этой или другой теме), просто заблокируйте тему с уведомлением «Ожидает проверки администратором».

Остальные моменты сложнее — я сейчас иду спать, но постараюсь вернуться к этому завтра.

(Кстати, эти заметки для сотрудников доступны публично или только тому, кто сделал пост?)

2 лайка
5

Добавьте уведомление от сотрудников к посту самостоятельно через меню гаечного ключа и посмотрите…

6 лайков
6

Мы не хотим диктовать людям, как модерировать их сообщества; мы просто хотим предоставить инструменты, чтобы они могли делать это так, как считают нужным.

Поэтому мне интересно — что можно сделать по-другому? Вы можете скрывать сообщения, раскрывать их, удалять, давать сообществу право скрывать сообщения, добавлять уведомления от сотрудников.

4 лайка
7

Да, тебя видно, Джефф! :smiley:

Что касается подобных уведомлений, мы почти наверняка не будем использовать их для какой-либо модерации пользователей, поскольку стараемся по возможности избегать публичного смущения (или порицания) участников. Мы обращаемся к публичному обсуждению проблем с пользователями только в том случае, если у нас не остаётся другого выбора (например, когда их поведение всё больше затрагивает всё большее число участников форума).

Если бы такие уведомления могли видеть только создатели соответствующих сообщений, мы могли бы использовать их в некоторых случаях, при условии, что будет очевидно: их видит только автор.

Почему мы идём этим путём? Потому что люди ненавидят, когда их модерируют, и ещё больше — когда их публично «стыдят». Это может вызывать сильное раздражение (и даже восприниматься как неуважение: если человек совершил искреннюю ошибку, его не следует заставлять чувствовать себя идиотом в глазах всего сообщества). Подобное отношение к нарушителям может создать огромные проблемы в будущем: если они обидятся, они никогда этого не забудут, и это усугубит будущие конфликты, что может привести к разногласиям внутри сообщества или к разрыву отношений с модераторами (что, к сожалению, никогда не заканчивается хорошо). В худшем случае они могут уйти или быть забанены и начать совершать более злонамеренные атаки. Это просто не стоит того, особенно если вы изначально были уверены, что перед вами настоящий пользователь.

Я согласен — мне просто кажется, что на данный момент инструменты отражают традиционный подход к модерации (конечно, с некоторыми улучшениями), но, вероятно, существует гораздо лучший способ (точно так же, как вы все в DC продемонстрировали это в других областях программного обеспечения для форумов)… нам просто нужно понять, какой именно это путь.

Это огромная тема, но, по-моему, главное, на чём нам сейчас нужно сосредоточиться, — сделать модерацию максимально приемлемой, не перегружая при этом команду модераторов.

К сожалению, у меня сейчас нет времени вдаваться в подробности, но было бы здорово обсудить это подробнее в новом году, возможно? :blush:

2 лайка
8

Признаюсь, это сделал я.

Я потратил много месяцев на размышления об этом (пересматривая подход к модерации на SitePoint до перехода на Discourse) и считаю, что для [того конкретного форума] мы пришли к действительно хорошему решению, внедрив новые процессы, основанные на доступных здесь инструментах. Мы практически всё отбросили и начали заново, что давно пора было сделать.

Не уверен, какие проблемы модерации нам нужно решить, которые ещё не решены, поэтому мне определённо интересно ваше мнение. Признаю, что сложно мыслить за пределами сообществ, которыми вы лично управляли, но считаю важным начинать с реальных проблем, а не с предположений.

То же самое. Новый год звучит хорошо. :slight_smile:

7 лайков
9

Эта ветка немного ушла в сторону, но главный вывод, который, как мне кажется, стоит извлечь из этой статьи, заключается в том, что стоит лично объяснять пользователям, чьи публикации нарушают правила, почему их контент удаляется. Исследование показало, что чем подробнее объяснение, тем лучше.

Так что конкретно: если чей-то контент удаляется потому, что его отметили N человек, то сейчас автоматическое сообщение пользователю гласит: «Ваш пост удалён, потому что его отметили N человек». В этом сообщении нет никакой информации о том, почему пост мог нарушать правила сообщества.

Это лишь пример. Мне кажется, общий смысл таков: удаление должно сопровождаться указанием причин, по которым пост был удалён, — причин, на основе которых пользователь сможет изменить или исправить свой пост, даже (и особенно) если это стандартные формулировки, выбираемые из выпадающего списка.

2 лайка
10

Это неверно. В нём указывается тип нарушения, согласно диалогу флагов: не по теме, неуместно, спам или «другое».

5 лайков
11

«Неуместный» мог бы иметь гораздо больше структуры, говорю я. «Что вы имеете в виду под „неуместным“?! Этот пост абсолютно нормальный!»

3 лайка