Шейдбаны вредны для дискуссии, и вот почему

Создание сообщества
1

Я прочитал несколько обнадеживающих постов здесь на тему модерации, например, от @codinghorror здесь1, и хотел бы тоже внести свой вклад.

Недавние разоблачения Twitter1 вновь разожгли дебаты об использовании инструментов модерации, похожих на тень-бан (shadowban). Хороши они или плохи для дискуссий? С помощью этого поста я надеюсь спровоцировать дискуссию среди модераторов и пользователей об использовании тень-банов.

Моя гипотеза заключается в том, что прозрачная модерация способствует формированию подготовленного пользовательского сообщества, где модераторы и пользователи доверяют друг другу, тогда как теневая модерация создает больше проблем, чем решает. Поэтому я утверждаю, что такие инструменты, как тень-бан, никогда не должны использоваться, даже для «маленьких» форумов, таких как инсталляции Discourse.

Обо мне

Я автор сайта Reveddit, который показывает пользователям Reddit их скрыто удаленный контент. Reveddit был запущен в 2018 году, и с тех пор я открыто высказывался против широкого использования инструментов, подобных тень-бану, на Reddit1, Hacker News1 и, в последнее время, в Twitter1. Я называю это «теневой модерацией». Если у кого-то есть сомнения в том, что какая-либо форма теневой модерации происходит на всех самых популярных платформах, пожалуйста, посмотрите также мое выступление на конференции Truth and Trust Online 20221 (слайды 8–9 на отметке 5:50) или мое появление в подкасте Using the Whole Whale1. Если есть сомнения в том, что эта практика непопулярна среди пользователей всех слоев общества, посмотрите реакции тысяч пользователей в FAQ Reveddit1.

Предисловие

Для справки, вот некоторые существующие определения поведения, похожего на тень-бан:

  • «Намеренное сделать контент человека недоступным для всех, кроме самого автора, причем сам автор об этом не знает». — Блог Twitter1
  • «Пользователь, подвергшийся hellban, невидим для всех остальных пользователей, но, что важно, не для самого себя. С их точки зрения, они нормально участвуют в жизни сообщества, но никто им никогда не отвечает. Они больше не могут нарушать покой сообщества, потому что фактически стали призраками». — Coding Horror1

А вот два определения от меня:

  • Прозрачная модерация: когда пользователи уведомляются о действиях, предпринятых против их контента.

  • Теневая модерация: любое сокрытие действий модератора от автора затронутого контента.

Обратите внимание: когда платформы говорят о прозрачности, они обычно имеют в виду лишь четкое изложение своих политик. Это не то же самое, что прозрачная модерация.

И чтобы было ясно: я поддерживаю использование прозрачной модерации. Я не поддерживаю государственное вмешательство в социальные сети для принуждения платформ к прозрачности, как это пытаются сделать PATA1 в США или DSA1 в Европе (Закон о подотчетности и прозрачности платформ и Закон о цифровых услугах соответственно). Поэтому я также признаю юридическое право платформ заниматься теневой модерацией.

Аргументы в пользу прозрачной модерации

Аргумент в пользу прозрачной модерации лучше всего формулировать как аргумент против теневой модерации.

Теневая модерация противоречит habeas corpus — тысячелетней концепции, согласно которой обвиняемый имеет право встретиться со своим обвинителем. Принципы habeas corpus закреплены в Конституции США в виде поправки (шестой), но это также базовое человеческое достоинство, которое мы ожидаем для себя и, следовательно, должны предоставлять другим. Проще говоря, секретные наказания несправедливы.

Теперь вы можете сказать: «Но это же частные платформы!» Действительно, они частные. Однако даже в частной жизни мы стремимся придерживаться определенных идеалов, как объясняет Грег Лукианов из организации FIRE здесь.

Джон Стюарт Милль высказал тот же аргумент в работе «О свободе», написав: «Защита, следовательно, от тирании магистрата недостаточна: необходима также защита от тирании господствующего мнения и чувств» 1.

Теперь вы можете сказать: «Нам это нужно для борьбы с бот-спамом!» Это сработает лишь на короткое время. В долгосрочной перспективе боты найдут способ проверять видимость своего контента, тогда как обычные пользователи в основном не будут этого делать. Следовательно, прозрачная модерация будет работать так же эффективно против ботов, а теневая модерация лишь вредит реальным людям.

Возможно, вы скажете: «Я использую это только на маленьком форуме». На это я спрошу: действительно ли необходимо прибегать к обману? Привыкание к теневой модерации на маленькой инсталляции Discourse может стать шагом к поддержке её использования на крупных платформах, и вред от этого, на мой взгляд, очевиден. Затронуты все стороны всех вопросов во всех географических регионах на всех платформах. Более 50% пользователей Reddit получают удаленные комментарии в течение последнего месяца использования. Это прерывает бесчисленное количество разговоров, возможно, из-за страха перед тем, что случится, если ненависть будет «выпущена на волю». Но Reveddit существует уже четыре года, и этого не произошло. Вместо этого я наблюдаю более здоровые сообщества, и в своем выступлении я привожу множество примеров этого.

Теневая модерация в масштабе также усиливает ваших идеологических оппонентов. Группы, которые вы считаете нецивилизованными, с большей вероятностью будут использовать теневую модерацию нецивилизованным образом. Любые преимущества, которые вы имеете, находясь в положении силы для внедрения таких инструментов, со временем исчезнут. И пока вы используете теневую модерацию, вы не сможете выиграть споры о её применении где-либо еще.

Насколько мне известно, исследований о влиянии теневой модерации проведено мало. Я знаю об одном исследовании, которое показывает, что нагрузка на модераторов снижается по мере роста прозрачности1. Однако мы знаем, что открытые общества процветают по сравнению с закрытыми.

Если не контролировать теневую модерацию, она порождает изолированные группировки, не готовые к реальным разговорам, где такая защита отсутствует. Это может привести к актам насилия или самоповреждения, потому что вред, наносимый словами, реален, когда мы не принимаем ограничения того, что можем контролировать. Вместо этого мы можем выбирать ответ на ненависть контрречью и побуждать пользователей делать то же самое.

Наконец, новое законодательство не может решить эту проблему за нас. Любой такой закон ущемит наши индивидуальные свободы и приведет к непредвиденным последствиям: либо (а) усилит ту самую сущность, против которой был создан билль о правах, либо (б) не сработает, поскольку невозможно обеспечить прозрачность без предоставления правительству доступа ко всему коду. Так что вы либо вернетесь к исходной точке, либо окажетесь в худшем положении, чем были. Поддержка habeas corpus и, следовательно, цивилизованного дискурса лучше всего достигается через культурную поддержку реальной прозрачной модерации. Всё, что меньше этого, — это пластырь, закрывающий гноящуюся рану.

Заключение

В заключение, не следует занимать позицию: «Он это делает, значит, и мне нужно, чтобы конкурировать на равных». Подумайте вместо этого, что у вас обоих может быть шаткая почва под ногами. Инсталляции Discourse и другие форумы, не использующие теневую модерацию, имеют более прочный фундамент. Их пользовательские базы подготовлены, модераторы и пользователи доверяют друг другу, и поэтому оба чувствуют себя свободными говорить открыто и честно. И, учитывая широкое распространение теневой модерации, сейчас как никогда важно публично поддерживать прозрачную модерацию.

Приложение

Один из еще не сообщенных случаев использования теневой модерации в Twitter может заключаться в автоматическом скрытии твитов на основе упоминания определенных ссылок. Я обнаружил это, когда поделился ссылкой на свой новый блог, для которого купил дешевый домен за 2 доллара в год с доменной зоной .win. После публикации ссылки в Twitter я заметил, что мои твиты отображаются для МЕНЯ, но НЕ для других. Например, этот твит1 не показывает мой ответ, даже если нажать кнопку «Показать дополнительные ответы». Чтобы увидеть мой ответ, нужно перейти по ссылке напрямую1. По сути, этот ответ не виден никому, кто меня не знает, а система скрывает этот факт от меня, пока я в системе.

* Единственная ситуация, в которой, по моему мнению, широкая цензура может быть полезной, — это когда общество забыло о её вреде. В таком случае она неизбежно вернется, даже если только для того, чтобы еще раз напомнить нам о её пагубных последствиях.

20 лайков
2022: The Year in Review
2

Очень интересно, спасибо.

Вы легко можете утверждать, что есть ещё один уровень — поисковые системы, такие как Google!

6 лайков
3

Очень интересная статья. Однако я задаюсь вопросом, есть ли вообще применение для теневого бана в Discourse.

Да, существует плагин для теневого бана, но он практически не используется. У него всего одна (1) звезда на GitHub, а статистика, которую мы имеем в Communiteq, показывает, что количество форумов на Discourse, активно использующих его, составляет менее 0,5%.

Так почему же внедрение теневого бана в платформе Discourse так низко? Это не потому, что теневой бан плох (хотя он таков), у этого есть другая причина. С технической точки зрения теневые баны очень легко обнаружить в Discourse. Просто зайдите на форум без авторизации или с другой учетной записью и обратите внимание на различия. Это возможно, потому что Discourse — это не социальная сеть, использующая алгоритм, который решает, что вы увидите и в каком порядке это будет представлено. В Discourse контент, который вам показывают, не зависит от того, что вы делали, видели, читали или писали ранее. И если нет алгоритма, нет места для того, чтобы приуменьшать значение определенного контента. Есть только возможность полностью скрыть его вместо того, чтобы показывать.

Я также не поддерживаю все формы прозрачной модерации, поскольку прозрачная модерация все еще может быть субъективной.

Помимо моей работы в экосистеме Discourse, я также являюсь основателем компании, которая борется с онлайн-дезинформацией и риторикой ненависти. Во время выступлений меня часто просят привести примеры иностранного вмешательства в демократические процессы в нашей стране (Нидерландах), и те, кто задает вопрос, всегда ожидают, что я расскажу историю о российских троллях. Но на самом деле основные примеры вмешательства иностранных акторов в демократические процессы, которые мы наблюдали в этой стране, — это социальные платформы, такие как Twitter или YouTube, которые банят или накладывают теневые баны на голландских политиков без какого-либо судебного разбирательства или контроля со стороны независимого органа.

И это плохо.

13 лайков
4

Привет, Ричард,

Спасибо за ваше мнение. Я не совсем убеждён, что использование скрытых банов (shadowbanning) в Discourse незначительно. У нас нет возможности проверить кастомизированный код и другие настройки установок, пока мы не создадим и не распространим инструменты, позволяющие пользователям самостоятельно анализировать поведение этих систем. Даже если использование действительно невелико, всё равно важно занять публичную позицию, поскольку использование подобных практик в других местах начиналось с малого, а теперь стало повсеместным. Я вынужден не согласиться с вашим комментарием:

Так почему же внедрение скрытых банов в платформе Discourse настолько низкое? Это не потому, что скрытые баны плохи (хотя они и есть таковыми), а по другой причине. С технической точки зрения скрытые баны в Discourse очень легко обнаружить. Достаточно зайти на форум без авторизации или с другого аккаунта и сравнить разницу.

Хотя это технически возможно, большинство пользователей даже не подумают об этом. В конце концов, удаление комментариев на Reddit работает по тому же принципу, что можно увидеть, оставив комментарий в r/CantSayAnything. 99% пользователей Reddit даже не подозревают, что всё работает именно так. У меня был аккаунт на Reddit в течение семи лет, прежде чем я узнал о повсеместном использовании скрытой модерации. При этом я посещал сайт как читатель, вероятно, три года до этого. И даже сейчас, когда Reveddit существует уже четыре года, я оцениваю, что менее 1% пользователей Reddit понимают, как работает удаление комментариев. Наконец, даже после создания Reveddit только через четыре года, этим летом, я по-настоящему понял, что инструменты скрытой модерации существуют и широко используются на всех крупных платформах.

Я согласен с вашим мнением, что манипуляции алгоритмическими лентами обнаружить сложнее. И, как вы говорите, контент, не отфильтрованный алгоритмически, можно проверить. Однако разделы комментариев, отсортированные по дате, всегда относятся к этой категории, и я считаю, что у каждого крупного сайта социальных сетей они есть. Следовательно, их можно проверить, если кто-то создаст соответствующие инструменты, поскольку, опять же, пользователи сами об этом не догадываются. Даже если вы проверите статус комментария один раз, модератор может тихо удалить его через час, тем самым аннулировав вашу проверку! Именно поэтому я создал Reveddit Real-Time1 — расширение, которое опрашивает систему на наличие скрытых удалений и уведомляет вас, когда это происходит.

Такие инструменты должны быть созданы для всех платформ, пока между пользователями и сайтами социальных сетей не возникнет достаточного доверия к тому, что скрытая модерация осталась в прошлом. Скрытая модерация настолько распространена, что, на мой взгляд, каждый должен исходить из того, что она используется любой системой, через которую он общается, если только система явно не отрицает такую практику. И даже в этом случае нужно внимательно следить за формулировками, например, выбором Twitter публично использовать слово «ранжировать» (rank)1 вместо внутренних описаний вроде «снижать амплитуду» (de-amplify)1. YouTube, с другой стороны, более открыто признаёт, что будет «сокращать» (reduce)1 контент.

Прозрачная модерация всё ещё может быть субъективной.

Не могли бы вы раскрыть эту мысль?

Помимо работы в экосистеме Discourse я также являюсь основателем компании, борющейся с онлайн-дезинформацией и речью ненависти.

Интересно, не могли бы вы назвать её? И доступны ли упомянутые вами выступления в интернете? Я согласен, что баны на YouTube также вызывают опасения. Подозреваю, что их «ров», как и у других, был создан с использованием инструментов скрытой модерации, которые «сокращают» или «скрыто удаляют» контент. Поэтому нам следует сосредоточиться именно на этом в первую очередь.

Я считаю, что настоящая цензура нашей эпохи — это скрытая модерация. Прозрачная модерация может быть цензурой, если она не «нейтральна к точкам зрения», но чаще она похожа на редактирование. Последний аргумент против настоящей цензуры приводит Боб Корн-Ривер, ведущий юрист по Первой поправке: «Цензор никогда не обладает моральным преимуществом»1.

3 лайка
5

Я согласен, что модерация должна быть прозрачной, но понимаю, почему теневая блокировка может казаться заманчивым решением для борьбы с троллями, которые не уходят. Какие существуют альтернативные способы борьбы с пользователем, который после блокировки администрацией сайта продолжает создавать новые аккаунты?

8 лайков
6

Как один из основателей второго по величине провайдера управляемого хостинга для Discourse, я обладаю таким способом — по крайней мере, в отношении размещённых нами инстансов. Поэтому я нахожусь в fortunate положении, чтобы выполнить здесь статистически значимые расчёты. И если бы существовала широко распространённая функция теневой блокировки, которая каким-то магическим образом была бы полностью независима от «наших» инстансов, я бы даже не услышал о ней за последние 9 лет. Это, ну, крайне маловероятно.

Ваш пост, похоже, размывает различие между теневой блокировкой (когда все сообщения от определённых пользователей подавляются) и теневой модерацией (касающейся отдельных сообщений), но я считаю, что это различие важно.

Помимо технических различий, где теневую блокировку гораздо легче обнаружить (если вы можете найти хотя бы одно сообщение от определённого пользователя, он не находится под теневой блокировкой), теневая блокировка гораздо более злонамеренна, поскольку чья-то свобода слова ограничивается на основе того, что они уже говорили ранее, тогда как теневая модерация подавляет их текущую речь.

Я считаю, что главная проблема теневой модерации заключается в её субъективности, а не в том, что она скрыта. Когда людей уведомляют об удалении контента, это также может привести к нежелательному поведению (например, повторной публикации или троллингу). Примером служит то, что произошло в LinkedIn во время пандемии COVID-19. В большинстве случаев они уведомляют об удалении контента, и люди начали делать фотографии своих удалённых постов и публиковать их снова. Это не только привлекло ещё больше внимания к их постам (которые оставались незамеченными, поскольку LinkedIn, apparently, не может распознавать текст на фотографиях), но и подпитало конспирологические теории о «великом перезапуске», согласно которым существует некая большая сила, ограничивающая их свободу слова.

Что ж, вот это:

5 лайков
7

Привет, Саймон, контекст очень важен. У тебя есть какие-то конкретные примеры? В целом я бы предложил представить, что это бремя не обязательно должно полностью ложиться на плечи менеджеров контента. Вовлеките своё сообщество и объясните дилемму. Возможно, её можно решить без блокировки. Если ты считаешь это наивным, то я скажу, что для обсуждения нужно больше контекста.

2 лайка
8

Ричард, спасибо за эти разъяснения. Указанный вами факт полезен для понимания. Я думаю, мы можем согласиться с тем, что теневая модерация сегодня на Discourse кажется не такой уж большой проблемой.

Лично я всё же не стану объявлять здесь «полную безопасность» по уже озвученным причинам, а также потому, что даже использование её одним-единственным форумом может иметь серьёзные последствия. Например, некоторые группы на Reddit используют теневую модерацию гораздо активнее других. Пользователей могут усыпить бдительность, заставив доверять системе в целом на том основании, что определённые группы действительно уведомляют их о удалениях. Так они начинают думать, что это происходит постоянно. А дальше часто случается так, что более манипулятивные группы вызывают больше доверия именно потому, что они не сообщают пользователям об удалении их контента. Со временем это привело к тому, что всё больше групп по умолчанию удаляют контент без уведомления. Reveddit помогает в какой-то степени противостоять этому, но без более широкой осведомлённости это всё ещё лишь временное решение.

Мне нетрудно представить установку Discourse, которая не практикует прозрачную модерацию и таким образом эксплуатирует пользователей точно так же. Я согласен, что широкое распространение теневой модерации в других местах не означает, что она широко используется на Discourse. Однако я считаю, что опубликованный плагин и запросы на исправление ошибок свидетельствуют о том, что теневая модерация уже стучится в двери Discourse.

Помимо технических различий, где теневая блокировка гораздо легче обнаруживается (если вы можете найти хотя бы один пост от определённого пользователя, значит, он не находится в теневой блокировке),

С точки зрения пользователя этот тест не работает. Системы, которые выборочно применяют теневую модерацию контента, не афишируют этот факт. Кроме того, «легче» не означает «легко». Этот пользователь1 находился в теневой блокировке на всём сайте Reddit в течение трёх лет, прежде чем обнаружил это, и многие другие пользователи регулярно подвергаются теневой блокировке в сабреддитах, например, как задокументировано в r/LibertarianUncensored1.

Сейчас на Reddit также появилась функция под названием Crowd Control, которая позволяет модераторам сабреддитов одним щелчком автоматически удалять все комментарии от пользователей, не являющихся постоянными подписчиками, без уведомления. В одной только ветке r/conservative1 было автоматически удалено 4000 комментариев, что составляет более 50%. Ни один из этих пользователей даже не подозревает, что его участие в этой группе часто остаётся незамеченным.

Теневая блокировка гораздо зловреднее, поскольку свобода слова кого-то ограничивается на основе того, что он говорил ранее, тогда как теневая модерация подавляет его текущую речь.

Теневая блокировка [всего контента аккаунта] является формой теневой модерации. Термин «избирательная невидимость»1, возможно, лучше описывает то, что вы имели в виду под «теневой модерацией». Оба подхода, на мой взгляд, могут быть одинаково вредными из-за описанного выше эффекта усыпления бдительности, а также потому, что избирательная невидимость всё ещё может применяться без человеческого контроля за модерированным контентом. На Reddit это составляет большинство случаев удаления комментариев; модераторы не просматривают их и не утверждают, и, полагаю, то же самое верно и для других платформ.

Наконец, я согласен, что люди могут спорить о том, что constitutes цензура, и даже о том, что значит быть полностью прозрачным в вопросах модерации. Я считаю, что более важным здесь является тот факт, что мы находимся так далеко от прозрачной модерации в социальных сетях и так далеки от общественной осведомлённости о повсеместности теневой модерации, что любой шаг в этом направлении имеет значение. Иными словами, не позволяйте совершенству становиться препятствием для того, что хорошо.

5 лайков
9

Привет, Роб. Я согласен с @simon, что в некоторых случаях теневого бана может быть полезен с чисто функциональной точки зрения. Я лично не хочу углубляться в более глубокие моральные и философские вопросы этой темы, но я видел множество случаев, которые довольно очевидны. Обычно это касается конкретного человека, которого весь форум знает как откровенного тролля, и который неоднократно был забанен, но продолжает возвращаться под другими учётными записями. Такие нарушители порядка неизменно используют сеть TOR. То же самое касается недовольных пользователей, которые яростно публикуют богохульные tirades и ужасные оскорбления, а также тревожные непристойные изображения или даже конкретные физические угрозы. Таким образом, случаи, о которых я говорю, — это явные и недвусмысленные примеры пользователей, которые абсолютно не должны находиться на форуме (а в некоторых случаях — даже свободно передвигаться по улицам), и их онлайн-поведение нарушает нормы практически всех порядочных людей в мире. Теневые баны могут хотя бы выиграть немного времени, прежде чем такой пользователь осознает это и создаст новую учётную запись.

6 лайков
10

Это сложный вопрос. Я не могу привести примеры, но подзаголовок в теме Discourse Shadowban хорошо это описывает: «Последнее средство для борьбы с троллями, которые не уходят». Также вот это:

Мой подход к такой ситуации заключался бы в добавлении заметки к учётной записи пользователя по ссылке Discourse User Notes, чтобы предупредить других модераторов сайта об этом пользователе и обеспечить его быструю блокировку за любые новые нарушения. Я ни разу не сталкивался с ситуацией, когда пользователь в итоге не уходил.

Я считаю, что мы должны внести свой вклад, чтобы сделать мир лучше. Проблема, которую я описываю, касается пользователей, которые, на мой взгляд, имеют проблемы с психическим здоровьем. Я хотел бы узнать, как помочь им стать лучшими гражданами как интернета, так и реального мира.

6 лайков
11

Можно легко утверждать, что существует ещё один уровень — поисковые системы, такие как Google!

Верно. Я больше обеспокоен скрытыми удалениями в комментариях, упорядоченных по дате. Здесь вред очевиден, и относительно несложно создать инструменты, показывающие, где это происходит. Хитрость, как мне кажется, заключается в росте поддержки этого движения. Его пока не существует. Люди даже не знают, что это происходит. И в той мере, в которой люди всё ещё говорят: «Нам нужны такие инструменты для наихудшего сценария», я считаю это упрощением, поскольку вред от этой новой формы скрытой цензуры остаётся в тени или вовсе не рассматривается. Тем не менее, возможно, такой разговор необходим, если мы хотим заручиться поддержкой прозрачного модерирования обсуждений.

Вы абсолютно правы, утверждая, что непрозрачные алгоритмы также могут осуществлять скрытую модерацию. Я слышал слухи о исследованиях, утверждающих, что Google манипулирует результатами в подсказках поиска по мере ввода, однако у меня нет источника на эту информацию, поэтому для меня это остаётся лишь слухом. Также можно намеренно исказить обучающие данные или не заметить существующую предвзятость в данных. Или же можно утверждать, что то, что считается предвзятостью, субъективно, поскольку цифровой мир никогда не будет точно отражать реальный.

Все эти темы требуют более глубокого обсуждения, многие из которых будут происходить за закрытыми дверями. Я считаю, что они станут более вероятными, если будет более широкое понимание распространённости скрытой модерации в разделах комментариев и, следовательно, более широкая поддержка отказа от неё; то есть поддержка прозрачного модерирования. К слову, я не привязан к этим терминам, поэтому, если у вас есть лучшие идеи, пожалуйста, делитесь ими.

1 лайк
12

Привет, Рахим,

Рад, что ты присоединился к обсуждению.

Лично я не хочу углубляться в более глубокие моральные и философские вопросы этой темы, но я видел множество случаев, которые вполне очевидны.

Можешь привести примеры? Без них это действительно скорее теоретическое обсуждение, чем эмпирическое. Учти, что некоторые виды контента незаконны1. Такой контент следует сообщать в правоохранительные органы. Я предполагаю, что ты говоришь о речи, защищённой конституцией, которая, тем не менее, наносит вред пользователям.

Я привёл несколько примеров, демонстрирующих, как постоянное использование скрытой модерации вредит, и до сих пор не видел ни одного случая, когда тролль (а) постоянно публикует речь, находящуюся на грани конституционной защиты, и (б) не уходит после того, как ему об этом сказали. Возможно, это потому, что такие случаи редки.

Гипотетический наихудший сценарий всегда используется для оправдания концентрации власти. На Reddit в некоторых сообществах, например r/news, приходится по одному модератору на миллион подписчиков, у которых есть аккаунты. Число читателей, вероятно, увеличивает это соотношение как минимум в десять раз. Это удивительно, если учесть, что модераторы там — анонимные, необученные волонтёры. Они решают, что увидят сотни миллионов людей в разделах комментариев, без какого-либо контроля даже со стороны авторов этих комментариев.

Обычно речь идёт о конкретном человеке, которого весь форум знает как откровенного тролля; этого человека многократно банят, но он возвращается под другими учётными записями, и такие зачинщики проблем неизменно используют сеть TOR. То же самое касается недовольных пользователей, которые яростно публикуют богохульные тирады, ужасные оскорбления и даже тревожные непристойные изображения или даже конкретные физические угрозы.

Оправдывает ли это внедрение формы цензуры, о которой пользовательская база не должна знать?

Здесь один случай, где я вступил в разговор с человеком, жаждущим драки. По истории комментариев BillHicksScream1 видно, что он постоянно говорит провокационные вещи. И всё же в ответ на мой последний комментарий ему нечего было сказать.

В других случаях предоставление последнему слова беспокойным пользователям может быть лучшим выходом. Достаточно лишь выглядеть разумным перед лицом догмы, как говорит Джонатан Рух1. Не обязательно убеждать троллей/экстремистов в их неправоте. Они сами себя измотают.

Скрытые баны могут хотя бы выиграть время до того, как такой пользователь это поймёт и создаст новый аккаунт.

А что дальше? Что произойдёт, когда пользователи неизбежно сложат два и два и поймут, что их обсуждения манипулируются, потому что захват власти был слишком велик и слишком заманчив для любого отдельного человека, чтобы устоять? Те, кто не внедрил скрытую модерацию в программное обеспечение, как основатель Discourse Джефф Атвуд, — это исключение, а не правило.

Сейчас в технологической сфере происходит культурный сдвиг1. Целые команды увольняются, а пользователи начинают узнавать о скрытой модерации. Честные технологии — это путь вперёд. Посмотрите, как люди реагируют, когда узнают, что происходит1.

…какое supposed обоснование того, чтобы заставить вас думать, что удалённый пост всё ещё жив и виден?

…Так что модераторы удаляют комментарии, но они всё ещё видны автору. Как зловеще.

…поразительно то, что вы не получаете уведомления, и для вас комментарий всё ещё выглядит опубликованным. Это означает, что модераторы могут устанавливать любой нарратив, какой захотят, не отвечая никому.

…Вау. Они могут удалить ваш комментарий, и он всё равно отображается на вашей стороне, как будто его не удаляли?

…Вау. Я здесь уже 12 лет и всегда думал, что это крутое место, где люди могут открыто делиться идеями. Оказывается, здесь цензура даже сильнее, чем в Китае. Удаление в 3, 2, 1…

Итак, это даёт обратный эффект. В сознании пользователей вы теперь цензор, который говорит: «пользователям не следует этого видеть, только я [модератор] имею конституционную стойкость, чтобы это выдержать».

Кстати, цензоры никогда не называют себя цензорами, как я указал здесь1. Это потому, что слово «цензор» считается плохим ещё со времён Энтони Комстока. Поэтому его часто заменяют такими терминами, как избирательная невидимость1, фильтрация видимости1, ранжирование1, видимость только для себя1, снижение1, деboosting1 или маскировка запрета1. Все эти фразы используются платформами и сторонниками скрытой модерации, чтобы избежать употребления плохого слова «цензура». Список бесконечен, потому что цель — скрыть, а не раскрыть, что они делают.

Вы говорите, что не хотите философского обсуждения, но при общении с человеком, с которым вы не согласны, но уважая индивидуальные свободы, может помочь мыслить как учёный, а не как юрист или солдат, и проявлять любопытство к тому, откуда исходит этот человек. Грег Лукианов называет это «проектом человеческого знания» видеоклип статья.

Короче говоря, необходимо учитывать вред, наносимый цензурой. Узкий взгляд на вред, причиняемый троллями, без учёта вреда от сегодняшней реальной цензуры не продвигает разговоры о модерации контента, потому что вы смотрите только на часть картины. Скрытая модерация остаётся скрытой от практически 100% общественности.

Учитывая тот факт, что многие пользователи лишены возможности помогать в модерации обсуждений при наличии скрытой модерации, разумно вовлекать их в помощь. В той степени, в которой не предпринимается попыток вовлечь сообщество через прозрачную модерацию и контр-речь, я бы назвал это онлайн-авторитаризмом — ментальностью бога, где модераторы притворяются, что знают лучше всех остальных. И в конечном итоге это создаст администраторам больше проблем, чем оно того стоит, как, я думаю, вы можете видеть на примере периодических потрясений, с которыми сталкиваются Twitter, Facebook и Reddit. Пользователи в этих пространствах находятся там достаточно долго, чтобы начать обнаруживать манипуляции, и они хотят чего-то лучшего.

2 лайка
13

Мой подход к этой ситуации заключался бы в добавлении заметки к аккаунту пользователя с помощью Discourse User Notes, чтобы предупредить других модераторов сайта об этом пользователе и обеспечить его быструю блокировку за любые новые нарушения. Я никогда не сталкивался с ситуацией, когда пользователь в конце концов не уходил.

У меня был аналогичный опыт: прозрачная модерация помогает людям понять правила и решить, хотят ли они их соблюдать или общаться в другом месте. Приведённое мной исследование о нагрузке на модераторов также подтверждает это.

Я считаю, что мы должны внести свой вклад в то, чтобы сделать мир лучше. Тип проблемы, которую я описываю здесь, касается пользователей, которые, по моему мнению, имеют проблемы с психическим здоровьем. Я хотел бы знать, как помочь им стать лучшими гражданами как интернета, так и реального мира.

Похоже, вы исходит из благих побуждений, Саймон! Я думаю, что человек, который «просто не уходит» после просьбы покинуть площадку, встречается крайне редко, но если это всё же произойдёт, я считаю, что он заслуживает того же уважения, которое мы оказываем всем остальным в отношении своего рода «права на суд». Полноценный суд не состоится по каждому онлайн-нарушению, поэтому компромисс, который я предлагаю, заключается в том, что все пользователи заслуживают знать, когда к ним были применены меры модерации. Лишать их этого — всё равно что лишать судебной системы. Что касается психического здоровья, то даже психиатры не будут делать таких выводов без личного осмотра человека, поэтому я считаю, что и мы не должны этого делать. Фраза «они сумасшедшие» неизбежно станет оправданием для лишения права на суд с помощью скрытой модерации.

Если контент является незаконным, то есть «в контексте напрямую вызывает конкретный, непосредственный и серьёзный вред»1 (определение Надine Строссен), то об этом следует сообщить в правоохранительные органы.

Наконец, если вы считаете, что имеет место самоповреждение, вы можете порекомендовать горячую линию кризисной помощи. Теоретически возможно, что скрытое удаление комментариев от пользователей, призывающих к насилию против себя или других, может сделать их более склонными действовать в соответствии со своими ошибочными убеждениями.

Рассмотрим группу, которую вы считаете ненавистной. Они всё равно могут удалять призывы к реальному насилию. Но если модераторы делают это тайно, то насильственный индивид не получает никакого сигнала о том, что его взгляды не соответствуют нормам сообщества. Кто может сказать, делает ли это его более или менее склонным к действию? Они могут воспринять отсутствие контраргументов как молчаливое одобрение.

Мой аргумент такой же, как у судьи Брандейса: солнце — лучший дезинфектор1, и решение требует вовлечения сообщества. Вместо того чтобы скрыто удалять комментарии, даже ненавистнические, вы можете дать сигнал об их удалении. Этот сигнал становится возможностью для них получить пользу от другого взаимодействия, будь то от вашего сообщества, другого сообщества или правоохранительных органов. Таким образом, вы можете дать маргиналам общества шанс почувствовать себя менее изолированными, тем самым сделав себя и мир безопаснее.

В целом я стараюсь следовать советам Джонатана Раша. Он говорит:

«Человек, с которым вы говорите, — это не тот человек, с которым вы говорите напрямую…»

По сути, вам не нужно убеждать всех, что вы правы. Достаточно звучать разумно в ответ на кого-то, кто догматичен или даже цензурирует. Хотя верно, что кто-то может вести себя цензурирующе в разговоре, пытаясь заглушить вас ненавистными словами, они также выглядят как идиоты, если вы дадите им должную свободу. Любое впечатление, что это не работает онлайн, возможно, связано с широким использованием скрытого удаления. Когда вы пытаетесь вступить в диалог с «ненавистнической» группой в их собственном пространстве, вас могут скрыто модерировать без вашего ведома!

В той же беседе Раш говорит: «В конце концов, ненавистники закапывают себя сами, если вы позволяете им говорить». И он знает, что работает. Как гей, выросший в 60-х годах, о чём здесь рассказывается1, Раш, по-видимому, десятилетиями активен в движении за права геев и, можно сказать, добился значительных успехов. Поэтому стоит прислушаться к его мнению о свободе слова, независимо от ваших чувств по поводу гомосексуальности или однополых браков. От испанской инквизиции до Энтони Комстока, от коммунизма и маккартизма до PMRC от Типпер Гор, нынешняя эпоха социальных сетей — не первый раз, когда свобода слова подвергается испытанию, и не последний.

Я обнаружил, что мышление Раша чрезвычайно эффективно для модерации моего собственного взаимодействия и предоставления другим возможности высказывать своё мнение, одновременно доводя свою точку зрения. Я постоянно открываю новые способы принять, что (а) я могу изменить только себя, и (б) этого достаточно, чтобы оказать положительное влияние на мир.

4 лайка
14

Возможно, здесь речь идёт о двух отдельных проблемах. Первая проблема — это модераторы, которые делают всё возможное для борьбы с деструктивным поведением. Здесь предлагалось использовать «теневой бан» для навязчивых пользователей как один из подходов: Discourse Shadowban. Я понимаю мотивацию, но не думаю, что этот метод станет популярным в качестве инструмента модерации: если пользователь настолько настойчив, это лишь отсрочит неизбежный конфликт.

Вторая проблема касается того, что происходит на других платформах, где охват постов некоторых пользователей ограничивается без какого-либо уведомления самих пользователей о происходящем. Примечательно, что эти пользователи не нарушали условия использования сервиса. Технически возможно создать плагин для Discourse, реализующий подобный функционал, но, если сайт не обладает чрезвычайно высокой активностью, такой механизм быстро будет обнаружен. На самом деле я считаю, что Discourse и другие децентрализованные платформы сообществ являются решением этой проблемы. В качестве крайнего примера: если кто-то хочет создать сообщество, где утверждение «Земля вращается вокруг Солнца» считается опасной дезинформацией, он имеет на это полное право. Люди с гелиоцентрическим мировоззрением просто могут найти другое сообщество для присоединения.

Ещё одна проблема возникает, если невозможно найти хостинг или платёжный процессор для сообщества, которое противоречит доминирующему нарративу по какому-либо вопросу. Помимо попытки продвигать ценности интеллектуального любопытства и разнообразия, у меня нет других действенных предложений, как с этим справиться.

Возможно, но при этом поиск решений реальных проблем — это хорошая бизнес-стратегия. Как помочь людям с их тролльским поведением, а не просто банить их, — это, похоже, нерешённая задача. Я могу представить, что Discourse предоставит инструменты, помогающие сообществам в этом. Также эту функцию можно было бы передать на аутсорсинг внешнему сервису, укомплектованному обученными психотерапевтами.

5 лайков
15

Саймон, я ценю, что вы нашли время ответить. Я вижу, что вы не убеждён в моём аргументе о том, что троллей иногда можно оставлять в покое (то есть посредством прозрачной модерации, а не теневой), и вы также, похоже, не убеждены в том, что теневая модерация может побудить Discourse к росту использования. Возможно, это так, а возможно, и нет. Я думаю, что время покажет, но не обязательно скоро. Я категорически не согласен с тем, что теневая модерация «быстро обнаруживается». Я согласен с тем, что продвижение интеллектуального любопытства и разнообразия нельзя недооценивать, и что хорошая бизнес-стратегия играет фундаментальную роль.

2 лайка
16

Здесь приведена официальная позиция Discourse по этому вопросу

12 лайков
17

Возможно, я был слишком осторожен в выражении своих мыслей здесь:

Я считаю теневое баннирование ужасной идеей. Тем не менее, у меня есть много опасений по поводу будущего интернета, но что касается Discourse, я не беспокоюсь, что теневое баннирование или скрытая манипуляция контентом сайта станут популярными. Во-первых, как отмечалось выше, такая функциональность отсутствует в базовом коде Discourse, и команда не планирует разрабатывать для неё плагины. Во-вторых, я не вижу валидного случая использования, когда добавление подобной функциональности на сайт Discourse было бы оправдано — не могу представить ситуацию, когда её внедрение принесло бы пользу владельцам сайта.

Если есть ещё что-то, что я мог бы продвигать, так это ценность разногласий. Продвижение разногласий, а не согласия, — это самый быстрый способ привлечь все доступные точки зрения от группы людей.

5 лайков
18

Я знаю, что бывают ситуации, когда необходим плагин или функция теневой блокировки.

У нас есть платная программа, и 99% наших студентов ей довольны. Однако иногда появляются недобросовестные пользователи, которые заходят на форумы и «отравляют» других негативом. Эти люди уже оплатили услугу, поэтому распространяют слухи и страхи (FUD), из-за чего новые пользователи видят эту негативную информацию и запрашивают возврат средств.

Поскольку эти недобросовестные пользователи тоже заплатили, мы не хотим возвращать им деньги, ведь именно такие люди обычно отнимают у нас больше всего времени.

Моя команда тратит часы и часы на борьбу с такими пользователями, чтобы они не «отравляли» остальных.

Поэтому да… мы просто хотим применить теневую блокировку к этим пользователям, чтобы наша служба поддержки могла отвечать на их посты и комментарии. Они будут думать, что всё в порядке, жизнь для нашей команды поддержки станет проще, а наши замечательные пользователи не будут подвергаться негативному влиянию.

Прежде чем сказать: «Просто верните им деньги»… нет, это не решение.

Нам нужна функция теневой блокировки для тем и ответов, а также возможность блокировать конкретного пользователя, если мы решим применить к нему постоянную теневую блокировку.

У этой функции есть законное применение.

2 лайка
19

Из любопытства, почему удаление нежелательных участников из вашего сообщества не является решением в данной ситуации?

Разве не было бы ещё большей проблемой, если бы они узнали, что платят за то, что не получают в полном объёме? (например, участие в вашем сообществе)

5 лайков
20

Они вернут деньги. Однако они получают гораздо больше, чем просто доступ к сообществу. Форумы — лишь небольшая часть. Это также программное обеспечение, инструменты и обучение. То, что они не должны делать, — это распространять в сообществе слухи и вызывать сомнения у других или побуждать их требовать возврат средств. Работая уже 20 лет, мы знаем, что всегда есть определённый процент людей, которые негативно настроены ко всему в жизни, поэтому нам необходимо защищать наших платящих клиентов, которые принимают меры.

Если бы они платили только за форум, ситуация была бы иной… но это продукт стоимостью 2 тысячи долларов, поэтому мы должны защищать наших платёжных участников от негативных критиков.

2 лайка