# 섀도밴은 토론에 해롭습니다. 그 이유는 다음과 같습니다
**URL:** https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903
**Category:** Community Building
**Tags:** moderation
**Created:** [12월 14, 2022, 11:07오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903 "2022-12-14T11:07:06Z")
**Posts on this page:** 20
**Page:** 1
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 14, 2022, 11:07오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/1 "2022-12-14T11:07:06Z")
모더레이션(운영진 관리)에 대해 여기에서 몇 가지 고무적인 글을 읽었습니다. 예를 들어 @codinghorror님의 이 글[1](https://meta.discourse.org/t/recommendations-for-handling-difficult-situations/47574)이 있죠. 저도 이 주제에 대해 제 생각을 좀 나누고 싶었습니다.
최근 트위터의 공개[1](https://twitter.com/bariweiss/status/1601013855697588224)로 인해 섀도우밴(Shadowban)과 유사한 모더레이션 도구의 사용에 대한 논쟁이 다시 불붙었습니다. 이런 도구들은 디스커스에 좋은 것일까요, 나쁜 것일까요? 이 글을 통해 모더레이터와 사용자들 사이에서 섀도우밴 사용에 대한 논의를 촉발하길 바랍니다.
저의 가설은 _투명한 모더레이션_이 모더레이터와 사용자 간의 신뢰를 바탕으로 준비된 사용자 기반을 형성하는 반면, _섀도우 모더레이션_은 해결하는 것보다 더 많은 문제를 만든다는 것입니다. 따라서 저는 섀도우밴과 같은 수단은 _절대_\* 사용해서는 안 된다고 주장합니다. 디스커스 설치 환경과 같은 “작은” 포럼일지라도 말입니다.
**저에 대하여**
저는 Reveddit의 저자입니다. Reveddit은 레드디터들이 비밀리에 삭제된 자신의 콘텐츠를 확인할 수 있게 해주는 사이트입니다. 2018년에 Reveddit이 출시된 이후, 저는 레드디트[1](https://old.reddit.com/user/rhaksw/), 해커 뉴스[1](https://news.ycombinator.com/threads?id=rhaksw), 그리고 최근에는 트위터[1](https://twitter.com/rhaksw/with_replies)에서 섀도우밴과 유사한 도구의 광범위한 사용에 대한 제 반대 입장을, 이를 '섀도우 모더레이션’이라 부르며 공개적으로 밝혀왔습니다. 가장 인기 있는 모든 플랫폼에서 어떤 형태로든 섀도우 모더레이션이 이루어지고 있다는 데 의문이 남는다면, 2022년 Truth and Trust Online에서의 제 강연[1](https://shadowmoderation.com/2022-10-transparent-moderation/)의 5:50부터 8~9번 슬라이드, 또는 Using the Whole Whale에 출연한 제 모습[1](https://www.wholewhale.com/podcast/what-is-shadow-moderation-how-is-it-silencing-speech/)을 참고해 주세요. 이 관행이 모든 계층의 사용자들 사이에서 인기가 없다는 데 의문이 남는다면, Reveddit의 FAQ[1](https://www.reveddit.com/about/faq/#react)에서 수천 명의 사용자들의 반응을 확인해 보세요.
**서론**
참고로, 섀도우밴과 유사한 행동에 대한 기존 정의들을 몇 가지 소개합니다:
- “게시한 사람 자신만 제외하고 다른 모든 사람에게 해당 사람의 콘텐츠를 발견할 수 없도록 의도적으로 만드는 것. 이는 원 게시자가 모르게 이루어진다.” - 트위터 블로그[1](https://blog.twitter.com/en_us/topics/company/2018/Setting-the-record-straight-on-shadow-banning)
- “헬밴(Hellbanned)된 사용자는 다른 모든 사용자에게 보이지 않지만, 결정적으로 본인에게는 보입니다. 그들의 관점에서 보면 커뮤니티에 정상적으로 참여하고 있지만 아무도 그들에게 응답하지 않습니다. 그들은 더 이상 커뮤니티를 교란할 수 없는데, 이는 사실상 유령이 되기 때문입니다.” - 코딩 호러(Coding Horror)[1](https://blog.codinghorror.com/suspension-ban-or-hellban/)
그리고 저의 두 가지 정의는 다음과 같습니다:
- _투명한 모더레이션(Transparent Moderation)_: 사용자가 자신의 콘텐츠에 대해 취해진 조치에 대해 통지를 받는 경우.
- _섀도우 모더레이션(Shadow Moderation)_: 조치된 콘텐츠의 작성자에게 모더레이터의 조치를 은폐하는 모든 행위.
_플랫폼_이 투명성에 대해 이야기할 때, 그들은 단순히 정책을 명확하게 구분하는 것을 의미합니다. 이는 투명한 모더레이션과 _같지_ 않습니다.
명확히 하자면, 저는 투명한 모더레이션의 사용을 _지지_합니다. 저는 PATA[1](https://www.coons.senate.gov/imo/media/doc/text_pata_117.pdf)(미국)나 DSA[1](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=uriserv%3AOJ.L_.2022.277.01.0001.01.ENG&toc=OJ%3AL%3A2022%3A277%3ATOC)(유럽, 각각 플랫폼 책임 및 투명성 법과 디지털 서비스 법)와 같이 플랫폼에 투명성을 _강제_하기 위한 정부의 소셜 미디어 개입을 _지지하지_ 않습니다. 따라서 저는 플랫폼이 섀도우 모더레이션을 수행할 법적 권리도 인정합니다.
**투명한 모더레이션의 당위성**
투명한 모더레이션의 당위성은 _섀도우 모더레이션에 반대_하는 논거로 가장 잘 정의될 수 있습니다.
섀도우 모더레이션은 1,000년 된 개념인 해베아스 코르푸스(Habeas corpus, 즉 피고인이 고소인/고발인을 대할 권리가 있다는 원칙)에 반합니다. 해베아스 코르푸스의 가치는 미국 헌법의 수정헌법(제6조)으로 명시되어 있지만, 이는 또한 우리가 자신에게 기대하는 기본적 존엄이므로 타인에게도 부여해야 할 것입니다. 단순히 말해, 비밀스러운 처벌은 부당합니다.
"하지만 이건 _사적_ 플랫폼이잖아!"라고 말할 수 있습니다. 사실 그렇습니다. 그러나 사적인 영역에서도 우리는 여전히 일부 이상을 지키기 위해 노력합니다. FIRE의 그렉 루카노프(Greg Lukianoff)가 [여기](https://www.youtube.com/watch?v=yJnxQ7YNWTM&t=4822s)에서 설명하듯 말입니다.
존 스튜어트 밀(John Stuart Mill)은 『자유론』(On Liberty)에서 동일한 논거를 제시하며, \*“따라서 법관의 독재로부터의 보호만으로는 충분하지 않습니다: 우세한 의견과 감정의 독재로부터의 보호도 필요합니다.”\*라고 썼습니다.[1](https://www.gutenberg.org/files/34901/34901-h/34901-h.htm#:~:text=Protection%2C%20therefore%2C%20against%20the%20tyranny%20of%20the%20magistrate%20is%20not%20enough%3A%20there%20needs%20protection%20also%20against%20the%20tyranny%20of%20the%20prevailing%20opinion%20and%20feeling)
"봇 스팸을 처리하려면 필요해!"라고 말할 수도 있습니다. 이는 단기적으로만 유효합니다. 장기적으로 보면, 봇은 자신의 콘텐츠 가시성을 확인하는 방법을 발견하겠지만, 대부분의 사용자는 그렇지 않을 것입니다. 따라서 투명한 모더레이션은 봇에게도 똑같이 잘 작동할 것이며, 섀도우 모더레이션은 진정성 있는 개인에게만 해를 끼칩니다.
아마도 "저는 작은 포럼에서만 사용하고 있어요."라고 말할 수 있습니다. 그렇다면 저는 묻고 싶습니다. 정말로 기만적인 수단에 의존할 필요가 있을까요? 작은 디스커스 설치 환경에서 섀도우 모더레이션에 익숙해지는 것은 더 큰 플랫폼에서의 사용을 지지하는 발판이 될 수 있으며, 거기서 발생하는 해악은 저에게 명확합니다. 모든 플랫폼, 모든 지역, 모든 이슈의 모든 측면이 영향을 받습니다. 레드디터의 50% 이상이 지난 한 달 동안 어떤 댓글이든 삭제된 경험이 있습니다. 이는 무수한 대화를 중단시킵니다. 아마도 증오가 "해방"될 경우 일어날 일에 대한 두려움 때문일 것입니다. 하지만 Reveddit은 4년 동안 존재해 왔고, 그런 일은 일어나지 않았습니다. 대신 제가 관찰한 것은 더 건강한 커뮤니티이며, 제 강연에서 그 많은 예를 링크했습니다.
대규모로 이루어지는 섀도우 모더레이션은 또한 당신의 이념적 반대자를 강화시킵니다. 당신이 무례하다고 생각하는 집단은 섀도우 모더레이션을 무례하게 사용할 가능성이 더 높습니다. 당신이 그러한 도구를 구현할 수 있는 권한 있는 위치에 있을 때 얻는 모든 이점은 시간이 지남에 따라 소실될 것입니다. 그리고 당신이 섀도우 모더레이션을 사용하는 한, 다른 곳에서의 그 사용에 대한 논쟁에서 이길 수 없습니다.
제 지식范围内, 섀도우 모더레이션의 효과를 연구하기 위한 적은 연구가 이루어졌습니다. 투명성이 높아질수록 모더레이터의 업무량이 줄어든다는 것을 시사하는 한 연구[1](https://medium.com/acm-cscw/does-transparency-in-moderation-really-matter-b86bab9b4810)는 알고 있습니다. 그러나 우리는 폐쇄적인 사회보다 개방적인 사회가 번영한다는 것을 알고 있습니다.
방치된 채로 두면, 섀도우 모더레이션은 이러한 보호가 제공되지 않는 현실 세계의 대화에 대비하지 못한 고립된 부족 그룹을 키웁니다. 이는 우리가 통제할 수 있는 것의 한계를 받아들이지 못할 때 언어가 가하는 해악이 실제이기 때문에, 폭력이나 자해 행위로 이어질 수 있습니다. 대신 우리는 증오에 맞서 반박 발언(counter speech)으로 대응하고, 사용자 기반이 그렇게 하도록 장려할 수 있습니다.
마지막으로, 새로운 입법이 이를 해결해 주지 않습니다. 그러한 어떤 법도 우리의 개인적 자유를 침해하고, (a) 권리 헌장이 보호하도록 설계된 바로 그 권력 기관을 강화하거나, (b) 모든 코드에 대한 정부 접근 권한을 부여하지 않고는 투명성을 강제할 방법이 없으므로 작동하지 않는다는 의도하지 않은 결과를 초래할 것입니다. 따라서 당신은 제자리로 돌아가거나, 시작할 때보다 더 나쁜 상황에 처하게 됩니다. 해베아스 코르푸스, 즉 시민적 담론에 대한 지지는 _실제_ 투명한 모더레이션에 대한 문화적 지지를 통해 가장 잘 달성됩니다. 이것에 못 미치는 것은 부패한 상처를 가리는 반창개에 불과할 것입니다.
**결론**
결론적으로, "그가 하고 있으니, 동등한 입장에서 경쟁하려면 나도 해야 한다"는 입장을 취해서는 안 됩니다. 대신, 당신과 그 모두의 입지가 나쁠 수 있음을 고려해 보세요. 섀도우 모더레이션을 사용하지 않는 디스커스 설치 환경과 다른 포럼들은 더 견고한 기반을 가지고 있습니다. 그들의 사용자 기반은 준비되어 있으며, 모더레이터와 사용자들은 서로를 신뢰하므로, 양쪽 모두 공개적이고 솔직하게 말하기가 자유롭습니다. 그리고 섀도우 모더레이션의 광범위한 사용을 감안할 때, 투명한 모더레이션을 목소리 높여 지지하는 것은 지금比以往任何时候보다 중요합니다.
**부록**
트위터에서 아직 보고되지 않은 섀도우 모더레이션의 사용 사례 중 하나는, 특정 링크의 언급에 기반하여 트윗이 자동으로 숨겨지는 경우일 수 있습니다. 저는 연간 2달러짜리 저렴한 도메인(.win TLD)을 구매한 제 새로운 블로그 링크를 공유했을 때 이를 발견했습니다. 트위터를 통해 공유한 후, 제 트윗이 제게는 보이지만 다른 사람들에게는 보이지 않는다는 것을 알게 되었습니다. 예를 들어, 이 트윗[1](https://twitter.com/BrookingsInst/status/1587581502971314176)에는 “추가 답글 보기” 버튼을 클릭해도 제 답글이 표시되지 않습니다. 제 답글을 보려면 링크에 직접 접근해야 합니다[1](https://twitter.com/rhaksw/status/1587652507009884160). 사실상, 그 답글은 이미 저를 아는 사람을 제외하고는 누구에게도 보이지 않으며, 로그인된 상태에서 시스템은 그 사실을 저에게 은폐합니다.
\* 제가 광범위한 검열이 유용하다고 생각하는 유일한 상황은 사회가 그 해악을 잊었을 때입니다. 그 경우, 그것은 필연적으로 다시 돌아올 것이며, 단지 그 해로운 효과를 우리에게 한 번 더 상기시키기 위해서일 것입니다.
---
### Author:  [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [12월 14, 2022, 11:10오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/2 "2022-12-14T11:10:47Z")
매우 흥미롭네요. 감사합니다.
구글 같은 검색 엔진도 또 다른 계층이라고 쉽게 주장할 수 있습니다.
---
### Author:  [@RGJ](https://meta.discourse.org/u/RGJ)
#### Post date: [12월 14, 2022, 1:21오후 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/3 "2022-12-14T13:21:42Z")
매우 흥미로운 글입니다. 다만, Discourse에서 섀도밴(shadowban)이 실제로 사용될 가치가 있는지 의문이 듭니다.
[섀도밴 플러그인](https://meta.discourse.org/t/discourse-shadowban/85041)은 존재하지만, 거의 사용되지 않습니다. 이 플러그인은 GitHub에서 별 1개만 받았으며, Communiteq 내부 통계에 따르면 이 기능을 적극적으로 사용 중인 Discourse 포럼은 0.5% 미만입니다.
그렇다면 왜 Discourse 플랫폼 내에서 섀도밴의 도입률이 이렇게 낮은 걸까요? 섀도밴이 나쁘기 때문은 아닙니다(사실 나쁘긴 하지만), 다른 이유가 있습니다. 기술적인 관점에서 보면, Discourse에서 섀도밴은 매우 쉽게 감지할 수 있습니다. 로그인하지 않거나 다른 계정으로 포럼을 방문하여 차이를 확인하면 됩니다. 이는 Discourse가 사용자가 무엇을 보고, 어떤 순서로 제시될지 결정하는 _알고리즘_을 사용하는 소셜 미디어 플랫폼이 아니기 때문에 가능합니다. Discourse에서는 이전에 무엇을 했거나, 보거나, 읽거나, 작성했는지에 관계없이 동일한 콘텐츠가 표시됩니다. 알고리즘이 없으므로 특정 콘텐츠를 축소(downplay)할 수 있는 공간도 없습니다. 콘텐츠를 보여주는 대신 완전히 숨기는 옵션만 존재합니다.
> [@rhaksw](#):
>
> 분명히 말씀드리자면, 저는 _투명한_ 형태의 중재를 _지지_합니다. 그러나 소셜 미디어 플랫폼에 투명성을 _강제_하기 위한 정부의 개입에는 _지지하지_ 않습니다.
저 역시 투명한 중재의 모든 형태를 지지하지는 않습니다. 투명한 중재라 해도 여전히 주관적일 수 있기 때문입니다.
Discourse 생태계에서의 업무 외에도 저는 온라인 허위 정보와 혐오 발언을Combat하는 회사의 창업자이기도 합니다. 강연 중에는 이 나라(네덜란드)의 민주적 과정에 대한 외국 개입 사례를 자주 질문받는데, 질문을 하는 사람들은 언제나 러시아 트롤에 대한 이야기를 기대합니다. 그러나 사실, 이 나라에서 우리가 목격한 외국 행위자의 민주적 과정에 대한 주요 개입 사례는, 법원이나 기타 독립 기관의 어떠한 심사 없이도 트위터나 유튜브와 같은 소셜 미디어 플랫폼이 네덜란드 정치인들을 밴하거나 섀도밴한 것입니다.
그리고 그것은 나쁜 일입니다.
---
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 15, 2022, 3:49오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/4 "2022-12-15T03:49:37Z")
Richard님,
의견을 주셔서 감사합니다. Discourse에서 사용량이 적다는 데에는 완전히 동의하지 않습니다. 사용자가 해당 시스템의 동작을 직접 검토할 수 있도록 빌드하고 공유할 도구가 먼저 마련되지 않는 한, 설치된 인스턴스의 커스텀 코드 등을 검증할 방법이 없습니다. 사용량이 _실제로_ 적다 하더라도, 다른 곳에서 사용량이 처음에는 적었지만 지금은 널리 퍼져 있는 것처럼, 공개적인 입장을 취하는 것이 여전히 중요합니다. 따라서 여기서는 Richard님의 의견에 동의할 수 없습니다.
> 그렇다면 왜 Discourse 플랫폼에서 섀드밴(shadowbanning)의 채택률이 이렇게 낮은 걸까요? 섀드밴이 나쁘기 때문(실제로 나쁘긴 합니다)이 아니라 다른 이유가 있습니다. 기술적인 관점에서 보면, Discourse에서 섀드밴은 매우 쉽게 감지할 수 있습니다. 단순히 로그인하지 않거나 다른 계정으로 포럼을 방문하여 차이를 확인하면 됩니다.
기술적으로는 가능하지만, 대부분의 사용자는 그렇게 할 생각을 하지 않습니다. 결국 Reddit의 댓글 삭제도 동일한 방식으로 작동하며, [r/CantSayAnything](https://www.reddit.com/r/CantSayAnything/comments/zdubov/write_any_comment_here_20221206/)에서 댓글을 작성해 보면 이를 확인할 수 있습니다. Reddit 사용자의 99%는 이것이 이렇게 작동한다는 사실을 모릅니다. 저는 Reddit 계정을 _7년_ 동안 사용하다가도 그 광범위한 섀드 모더레이션(shadow moderation) 사용을 발견했습니다. 그 전에는 아마도 3년 정도 독자로 사이트를 방문한 적도 있었습니다. 그리고 지금 Reveddit이 출시된 지 4년이 지났음에도 불구하고, 댓글 삭제가 어떻게 작동하는지 이해하는 Reddit 사용자는 1% 미만일 것으로 추정합니다. 마침내 _Reveddit을 구축한_ 후에도, 섀드 모더레이션 도구가 존재하고 _모든_ 주요 플랫폼에서 널리 사용되고 있다는 사실을 진정으로 깨달은 것은 4년 뒤인 올해 여름이었습니다.
Richard님이 알고리즘 피드의 조작은 감지하기가 더 어렵다는 점에는 동의합니다. 그리고 말씀하신 대로, 알고리즘적으로 필터링되지 않은 콘텐츠는 검토가 가능합니다. 그러나 날짜 순서로 정렬된 댓글 섹션은 _항상_ 이 범주에 해당하며, 모든 주요 소셜 미디어 사이트에는 이러한 섹션이 있다고 생각합니다. 따라서 누군가가 이를 위해 도구를 구축한다면 검토가 가능합니다. 왜냐하면 역시 사용자가 스스로 이를 확인해 보려 하지 않기 때문입니다. 한 번만 댓글 상태를 _확인_하더라도, 모더레이터가 1시간 후에 조용히 댓글을 삭제하여 확인 결과를 무효화할 수 있습니다. 이것이 바로 제가 Reveddit Real-Time[1](https://www.reveddit.com/add-ons/direct/)을 구축한 이유입니다. 이 확장 프로그램은 시스템에서 섀드 삭제를 폴링하고, 그런 일이 발생하면 알림을 보내줍니다.
사용자와 소셜 미디어 사이트 간의 신뢰가 섀드 모더레이션이 과거의 일이 되었다고 느낄 정도로 충분해질 때까지, 모든 플랫폼에 이러한 도구가 구축되어야 합니다. 섀드 모더레이션은 매우 광범위하여, 시스템이 해당 관행을 명시적으로 부인하지 않는 한, 누구나 자신이 소통하는 데 사용하는 시스템에서 섀드 모더레이션이 사용되고 있다고 가정해야 한다고 생각합니다. 그리고 그런 경우에도 Twitter가 내부 용어인 “de-amplify”[1](https://twitter.com/kayvz/status/1601038768135233536) 대신 “rank”[1](https://blog.twitter.com/en_us/topics/company/2018/Setting-the-record-straight-on-shadow-banning)라는 단어를 공개적으로 사용한 것처럼, 그들의 표현을 주의 깊게 살펴봐야 합니다. 반면 YouTube는 콘텐츠의 “reduce”(감소)[1](https://blog.youtube/inside-youtube/the-four-rs-of-responsibility-remove/)를 더 공개적으로 인정합니다.
> 투명한 모더레이션도 여전히 주관적일 수 있습니다.
이 부분에 대해 더 자세히 설명해 주실 수 있나요?
> Discourse 생태계에서의 작업 외에도, 저는 온라인 허위 정보와 증오 발언을Combat하는 회사의 창업자이기도 합니다.
흥미롭네요. 어떤 회사인지 말씀해 주시겠어요? 그리고 언급하신 강연들이 온라인에서 볼 수 있나요? YouTube의 밴도 우려스럽다는 점에는 동의합니다. 그들의 해자(moat)도 다른 회사들처럼 "reduce"하거나 "shadow remove"하는 섀드 모더레이션 도구를 사용하여 구축되었다고 의심합니다. 따라서 우리는 먼저 _그것_에 초점을 맞춰야 합니다.
저는 우리 시대의 _진정한_ 검열이 섀드 모더레이션이라고 생각합니다. 투명한 모더레이션은 "관점 중립적"이지 않을 경우 검열이 될 수 있지만, 편집(editing)에 더 가깝습니다. _진정한_ 검열에 대한 마지막 반론은 제1조 변호사인 Bob Corn-Revere에게서 옵니다: “검열자는 도덕적 우위를 점한 적이 없다.”[1](https://www.dwt.com/people/c/cornrevere-robert)
---
### Author:  [@simon](https://meta.discourse.org/u/simon)
#### Post date: [12월 15, 2022, 5:46오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/5 "2022-12-15T05:46:11Z")
모더레이션이 투명해야 한다는 점에는 동의하지만, 떠나지 않는 트롤들을 다루는 데 있어 섀드번(Shadow Banning)이 유혹적으로 느껴질 수 있다는 점은 이해할 수 있습니다. 사이트 스태프에게 의해 BAN된 사용자가 계속해서 새로운 계정을 만드는 경우를 대체할 수 있는 방법에는 어떤 것들이 있을까요?
---
### Author:  [@RGJ](https://meta.discourse.org/u/RGJ)
#### Post date: [12월 15, 2022, 8:09오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/6 "2022-12-15T08:09:08Z")
> [@rhaksw](#):
>
> Discourse에서 사용량이 적다는 데는 완전히 동의하지 않습니다. 설치된 인스턴스의 커스텀 코드를 검증할 방법이 없습니다.
2위 규모의 Discourse 매니지드 호스팅 제공업체의 공동 창업자로서, 적어도 우리가 호스팅하는 인스턴스에 대해서는 그 방법을 가지고 있습니다. 따라서 여기에서 통계적으로 유의미한 계산을 수행할 수 있는 행운의 위치에 있습니다. 그리고 만약 광범위한 섀도우반(Shadowban) 기능이 어떤 마법 같은 방식으로 “우리” 인스턴스와 완전히 무관하게 작동하고 있었다면, 지난 9년 동안 그 사실에 대해 듣지 못했을 것입니다. 그런 일은, 음, 매우 가능성이 낮습니다.
질문자님의 게시물은 섀도우반(특정 사용자의 모든 게시물이 억제되는 경우)과 섀도우 모더레이션(개별 게시물에 관한 경우) 사이의 구분을 흐리게 만드는 것 같습니다. 하지만 저는 그 구분이 중요하다고 생각합니다.
섀도우반이 훨씬 더 쉽게 감지될 수 있는 기술적 차이(특정 사용자의 단일 게시물만 찾으면 섀도우반이 아님을 알 수 있음)를 제외하고, 섀도우반은 훨씬 더 악의적인 행위입니다. 왜냐하면 _과거에 말한 내용_에 기반하여 누군가의 표현의 자유가 제한되는 반면, 섀도우 모더레이션은 _현재의_ 발언을 억제하기 때문입니다.
저는 섀도우 모더레이션의 주요 문제가 침묵이 아니라 주관적이라는 점이라고 생각합니다. 사람들이 콘텐츠 삭제에 대해 통지를 받으면, 이는 또한 원치 않는 행동(예: 재게시나 트롤링)으로 이어질 수 있습니다. 한 예시로, 코로나19 기간 동안 LinkedIn에서 일어난 일이 있습니다. 그들은 대부분 콘텐츠 삭제에 대해 통지를 했기 때문에, 사람들이 삭제된 게시물의 사진을 찍어 다시 게시하기 시작했습니다. 이는 그들의 게시물에 _더 많은_ 관심을 끌었을 뿐만 아니라(LinkedIn이 해당 사진에 대해 이미지-텍스트 변환을 할 수 없는 것 같아 레이더망을 피할 수 있었음), 그들의 표현의 자유를 제한하는 더 큰 권력이 있다는 “그레이트 리셋(Great Reset)” 음모론을 부추겼습니다.
> [@rhaksw](#):
>
> 이 부분에 대해 더 설명해 주실 수 있나요?
음, 이것입니다:
> [@rhaksw](#):
>
> 투명한 모더레이션은 "관점 중립적"이지 않을 경우 검열이 될 수 있습니다.
---
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 15, 2022, 10:02오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/7 "2022-12-15T10:02:14Z")
시몬, 안녕. 맥락이 정말 중요해. 구체적인 예시가 있어? 일반적으로 이런 부담이 콘텐츠 매니저들에게만 지워져서는 안 된다고 생각해. 커뮤니티와 소통하고 딜레마에 대해 설명해 봐. 금칙 없이 해결될 수도 있어. 만약 그게 순진한 생각이라고 생각한다면, 논의하려면 더 많은 맥락이 필요하다고 말하고 싶군.
---
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 15, 2022, 10:11오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/8 "2022-12-15T10:11:10Z")
Richard, 이러한 설명을 해 주셔서 감사합니다. 제공해 주신 데이터 포인트를 알아두는 것이 좋습니다. 오늘날 Discourse에서 섀도우 모더레이션(shadow moderation)이 큰 문제가 되지 _않는_ 것으로 보인다는 데에는 동의할 수 있을 것 같습니다.
개인적으로는 이미 언급한 이유들, 그리고 단일 포럼에서의 사용조차 큰 영향을 미칠 수 있기 때문에 여기서 "완전 무사(all clear)"라고 선언하지는 않을 것입니다. 예를 들어, Reddit의 일부 그룹은 다른 그룹보다 섀도우 모더레이션을 훨씬 더 적극적으로 사용합니다. 사용자가 특정 그룹에서 게시물이 삭제될 때 통지를 _받기_ 때문에 시스템 전체를 신뢰하도록 유도될 수 있습니다. 따라서 그들은 이것이 항상 일어난다고 생각하게 됩니다. 그리고 그다음에 흔히 발생하는 일은, 사용자가 콘텐츠를 삭제할 때 통지하지 _않기_ 때문에 더 _조작적인_ 그룹이 오히려 _더_ 신뢰를 얻는다는 것입니다. 시간이 지남에 따라, 이는 더 많은 그룹이 통지 없이 삭제를 기본값으로 설정하도록 이끌었습니다. Reveddit는 이를 다소 저지하는 데 도움이 되지만, 광범위한 인식이 없이는 여전히 임시방편에 불과합니다.
투명한 모더레이션을 _적용하지_ 않는 Discourse 인스턴스를 상상하는 것은 어렵지 않습니다. 이는 같은 방식으로 사용자를 이용하게 될 것입니다. 다른 곳에서 섀도우 모더레이션의 광범위한 사용이 Discourse에서의 사용이 광범위하다는 것을 의미하지는 않는다는 데에는 동의합니다. 공개된 플러그인과 버그 수정 요청은 섀도우 모더레이션이 적어도 Discourse의 문을 두드리고 있다는 증거라고 생각합니다.
> 섀도우 밴(shadowbanning)은 특정 사용자의 단일 게시물만 찾아내면 섀도우 밴되지 않았다는 것을 알 수 있으므로) 훨씬 더 쉽게 감지할 수 있는 기술적 차이가 있는 것과는 별개로,
사용자의 관점에서 보면, 이 테스트는 작동하지 않습니다. 선택적으로 콘텐츠를 섀도우 모더레이션하는 시스템은 그렇게 한다는 사실을 홍보하지 않습니다. 또한, "더 쉬운(easier)"은 "쉬운(easy)"을 의미하지 않습니다. 이 사용자[1](https://www.reddit.com/r/tifu/comments/351buo/tifu_by_posting_for_three_years_and_just_now/)는 3년 동안 Reddit 전체에서 섀도우 밴된 후 이를 발견했으며, 많은 다른 사용자들도 r/LibertarianUncensored[1](https://www.reddit.com/r/LibertarianUncensored/comments/uotv5a/analysis_criticism_of_mods_at_rlibertarian_will/)에 기록된 바와 같이 서브레딧에서 정기적으로 섀도우 밴되고 있습니다.
Reddit에는 현재 서브레딧 모더레이터가 일반 구독자가 아닌 사용자의 모든 댓글을 통지 없이 자동으로 삭제하도록 스위치를 켤 수 있는 'Crowd Control’이라는 기능이 있습니다. 하나의 r/conservative 스레드[1](https://www.reddit.com/r/Conservative/comments/vjpeia/roe_v_wade_is_over_party/)에서 4,000개의 댓글, 즉 50% 이상이 자동으로 섀도우 삭제되었습니다. 이 사용자들은 자신의 참여가 종종 무음 처리(muted)된다는 사실을 전혀 모르고 있습니다.
> 섀도우 밴은 훨씬 더 악의적인데, 이는 과거에 말한 것들을 기반으로 하여 누군가의 표현의 자유가 제한되는 반면, 섀도우 모더레이션은 그들의 현재 발언을 억제하기 때문입니다.
[전체 계정 콘텐츠의] 섀도우 밴은 섀도우 모더레이션의 _한 형태_입니다. "선택적 비가시성(selective invisibility)"이라는 용어[1](https://www.wired.com/2009/03/st-thompson-12/)가 "섀도우 모더레이션"으로 의도하신 것을 더 잘 설명할 수 있을 것입니다. 제 의견으로는, 위에서 설명한 유도 효과(lulling effect) 때문에, 그리고 선택적 비가시성이 모더레이션된 콘텐츠에 대한 인간 검토 없이도 적용될 수 있기 때문에, 둘 다 동일한 정도로 해로울 수 있습니다. Reddit에서는 대부분의 댓글 삭제가 이에 해당합니다. 모더레이터는 이를 검토하고 승인하지 않으며, 다른 플랫폼에서도 마찬가지라고 생각합니다.
마지막으로, 어떤 것이 검열에 해당하는지, 그리고 모더레이션에 대해 완전히 투명하다는 것이 무엇을 의미하는지에 대해서는 사람들이 논쟁할 수 있다고 동의합니다. 여기서 더 중요한 점은, 소셜 미디어에서 우리는 투명한 모더레이션에서 _매우_ 멀어 있고, 섀도우 모더레이션의 보편성에 대한 대중적 인식에서도 매우 멀어 있으므로, 그 방향으로의 어떤 단계든 중요하다는 것입니다. 다시 말해, 완벽함이 좋은 것을 가로막지 않게 하라는 것입니다.
---
### Author:  [@rahim123](https://meta.discourse.org/u/rahim123)
#### Post date: [12월 15, 2022, 1:58오후 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/9 "2022-12-15T13:58:01Z")
로브, 안녕하세요. 시몬과 마찬가지로, 특정 상황에서는 순수하게 기능적인 측면에서 섀도밴이 유용할 수 있다고 동의합니다. 저는 이 주제의 더 깊은 도덕적, 철학적 문제까지 깊이 다루고 싶지는 않지만, 꽤 명백한 사례들을 여러 번 목격해 왔습니다. 보통 전체 포럼이 노골적인 트롤로 인식하는 특정 사용자가 관련되어 있으며, 이 사용자는 여러 번 밴된 적이 있고 다른 닉네임으로 계속 돌아옵니다. 이런 유형의 문제制造자는 거의 항상 TOR 네트워크를 사용합니다. 또한 격분하여 거친 욕설과 끔찍한 모욕, 심지어 불쾌한 음란한 이미지, 혹은 특정 대상에 대한 물리적 위협까지 게시하는 불만족스러운 사용자들도 마찬가지입니다. 제가 언급하는 사례들은 포럼(심지어 일부 경우엔 거리에서도)에 절대 있어서는 안 되는 사용자들의 명확하고 의심의 여지 없는 예시이며, 그들의 온라인 행동은 전 세계 거의 모든 정당한 사람들의 규범을 위반합니다. 섀도밴은 적어도 그런 유형의 사용자가 이를 알아채고 새로운 계정을 만들기 전에 시간을 벌 수 있게 해줍니다.
---
### Author:  [@simon](https://meta.discourse.org/u/simon)
#### Post date: [12월 15, 2022, 8:36오후 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/10 "2022-12-15T20:36:44Z")
> [@rhaksw](#):
>
> 컨텍스트가 매우 중요합니다. 구체적인 예시가 있나요?
좀 까다로운 질문이네요. 제가 예시를 드릴 위치에 있지는 않지만, Discourse Shadowban(그림자 금지) 주제에 있는 부제가 상황을 꽤 잘 요약하고 있습니다: “그저 사라지지 않는 트롤들을 처리하기 위한 최후의 수단.” 또한 이것도 참고하세요:
> [@rahim123](#):
>
> 보통은 전체 포럼이 노골적인 트롤로 인식하는 특정 사용자가 관련되며, 그 사용자는 여러 차례 금지 조치를 받은 뒤에도 다른 사용자명으로 계속 돌아오는 경우가 많습니다. 그리고 그런 문제制造자는 invariably TOR 네트워크를 사용합니다.
제 접근 방식은 [Discourse User Notes](https://meta.discourse.org/t/discourse-user-notes/41026) 을 사용하여 해당 사용자의 계정에 메모를 추가하는 것입니다. 이를 통해 사이트의 다른 모더레이터들에게 해당 사용자에 대한 경고를 주고, 새로운 위반 사항이 발생할 경우 신속하게 금지 조치가 내려지도록 보장하는 것입니다. 사용자가 결국 사라지지 않은 상황을 경험해 본 적이 없습니다.
> [@rhaksw](#):
>
> 방치될 경우, 그림자 조정(shadow moderation)은 이러한 보호 장치가 없는 현실 세계의 대화에 대비하지 못한 고립된 부족 집단을 만들어냅니다.
우리는 세상을 더 나은 곳으로 만들기 위해 각자의 역할을 해야 한다고 생각합니다. 제가 여기서 설명하는 유형의 문제는 (제 관점에서) 정신 건강 문제를 겪고 있는 것으로 보이는 사용자를 다루는 것입니다. 이들이 인터넷과 현실 세계 모두에서 더 나은 시민이 될 수 있도록 돕는 방법을 알고 싶습니다.
---
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 16, 2022, 1:51오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/11 "2022-12-16T01:51:34Z")
> 구글 같은 검색엔진도 또 다른 계층으로 볼 수 있다고 쉽게 주장할 수 있습니다.
맞습니다. 저는 날짜 순서대로 정렬된 댓글 섹션에서 일어나는 '섀도 리무벌(Shadow Removal)'에 더 우려하고 있습니다. 그곳에서는 피해가 명확하며, 그 일이 어디서 일어나고 있는지 보여주는 도구를 만드는 것도 비교적 쉽습니다. 저는 그 움직임에 대한 지지를 얻어내는 것이 핵심이라고 생각합니다. 아직 그런 움직임은 존재하지 않습니다. 사람들은 심지어 그것이 일어나고 있다는 사실조차 모릅니다. 그리고 사람들이 여전히 "이러한 최악의 시나리오를 위해 그런 도구가 필요하다"고 말하는 한, 그것은 환원적이라고 생각합니다. 왜냐하면 이 새로운 형태의 섀도 검열이 가져오는 피해들은 외면되거나 고려되지 않기 때문입니다. 그럼에도 불구하고, 투명하게 관리되는 대화를 위해 지지를 높이고 싶다면 이 주제를 다루는 대화가 필요할 수도 있습니다.
불투명한 알고리즘도 섀도 모더레이션(Shadow Moderation)을 수행할 수 있다는 지적은 정확합니다. 구글이 사용자가 입력하는 검색 제안어에 영향을 미친다는 연구에 대한 소문을 들은 적은 있지만, 출처가 없어서 저에게는 여전히 소문에 불과합니다. 또한 학습 데이터에 의도적으로 편향을 넣거나, 데이터에 이미 존재하는 편향을 인지하지 못할 수도 있습니다. 혹은 디지털 세계가 현실 세계를 정확히 반영할 수 없으므로 편향의 개념 자체가 주관적이라고 주장할 수도 있습니다.
이것들은 모두 더 복잡한 논의이며, 그 중 상당수는 비공개적으로만 이루어질 것입니다. 댓글 섹션에서 섀도 모더레이션이 얼마나 만연해 있는지에 대한 인식이 더 넓어지면, 즉 그렇게 하지 말아야 한다는(투명한 모더레이션을 지지한다는) 지지가 더 넓어지면, 이러한 논의가 일어날 가능성이 더 _높아질_ 것이라고 생각합니다. 참고로 저는 이 용어에 집착하지 않으므로, 더 좋은 아이디어가 있다면 말씀해 주십시오.
---
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 16, 2022, 6:03오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/12 "2022-12-16T06:03:23Z")
라힘, 안녕하세요.
토론에 합류해 주셔서 기쁩니다.
> 저는 개인적으로 이 주제의 더 깊은 도덕적, 철학적 문제에는 깊이 관여하고 싶지 않지만, 꽤 명백한 여러 사례들을 목격해 왔습니다.
이러한 사례 중 몇 가지를 인용해 주시겠어요? 그것 없이는 이건 확실히 경험적 논의라기보다는 이론적 논의에 더 가깝습니다. 참고로 일부 콘텐츠는 _불법_입니다[1](https://www.thefire.org/news/blogs/eternally-radical-idea/open-letter-elon-musk-greg-lukianoff-preserving-free-expression). 그러한 콘텐츠는 당국에 신고해야 합니다. 저는 사용자가 피해를 입히는, 그 외 헌법적으로 보호받는 발언에 대해 말씀하시는 것이라고 가정합니다.
저는 쉐도우 모더레이션(Shadow Moderation)의 지속적 사용이 어떻게 해로운지를 보여주는 여러 사례를 링크했지만, (a) 끊임없이 헌법적으로 보호받는 경계선상의 발언을 게시하고, (b) 경고받아도 떠나지 않는 트롤의 사례는 아직 본 적이 없습니다. 아마도 그것이 드물기 때문일 것입니다.
가상의 최악의 시나리오는 _항상_ 권력 집중을 정당화하는 데 사용됩니다. Reddit에서 r/news와 같은 일부 그룹은 _계정이 있는_ 구독자 _100만 명_당 _1명의_ 모더레이터만 있습니다. _독자_의 수는 이 비율을 _최소_ 10배 이상 늘릴 가능성이 높습니다. 그곳의 모더레이터가 익명이고 훈련받지 못한 자원봉사자라는 점을 고려하면 이는 주목할 만한 일입니다. 그들은 _심지어 그 댓글의_ 저자로부터의 감독도 없이 수억 명의 사람들이 댓글 섹션에서 볼 것을 결정합니다.
> 보통 그것은 포럼 전체가 노골적인 트롤로 알고 있는 특정 인물이며, 그 사람은 여러 번 금지당했고 다른 사용자 이름으로 계속 돌아오며, 그런 종류의 문제制造者(문제制造者)는 invariably TOR 네트워크를 사용합니다. 격분한 사용자가 격렬하게 비속어가 가득한 성토와 끔찍한 모욕, 심지어 불안한 노골적인 이미지, 또는 심지어 특정 대상에 대한 물리적 위협을 게시하는 경우도 마찬가지입니다.
이것이 사용자 기반이 알 수 있도록 위임되지 않은 형태의 검열을 도입하는 것을 정당화합니까?
[여기](https://old.reddit.com/r/FreeSpeech/comments/yc8whv/revedditcom_improving_online_discourse_with/ivfjfkl/?context=10)는 제가 싸움을 원했던 사람과 상호작용했던 사례 중 하나입니다. BillHicksScream의 댓글 기록[1](https://old.reddit.com/user/BillHicksScream)에서 볼 수 있듯이, 그들은 항상 도발적인 말을 돌아다니며 합니다. 그럼에도 불구하고, 그들은 제 마지막 댓글에 대한 답변할 것이 아무것도 없었습니다.
다른 경우들에서는, 난폭한 사용자에게 마지막 말을 주는 것이 최선의 길일 수 있습니다. 조너선 라우(Jonathan Rauch)가 말하듯[1](https://www.youtube.com/watch?v=E0T9XSG73kY&t=4889s), 독단 앞에서 합리적이라는 인상만 주면 됩니다. 트롤/극단주의자가 틀렸다고 설득할 필요는 없습니다. 그들은 스스로 지칠 것입니다.
> 쉐도우밴(Shadowban)은 적어도 그런 유형의 사용자가 그것을 알아채고 다른 계정을 만들기 전에 약간의 시간을 벌 수 있습니다.
그럼 다음에는 어떻게 되나요? 사용자가 권력 장악이 너무 크고 유혹적이라 어떤 개인도 저항할 수 없었기 때문에 그들의 토론이 조작되고 있다는 것을 필연적으로 두 가지와 두 가지를 더해서 알아챌 때 무슨 일이 일어나나요? 소프트웨어에 쉐도우 모더레이션을 구축하지 않은 Discourse의 창립자 제프 앳우드(Jeff Atwood)와 같은 저항자들은 예외일 뿐, 규칙이 아닙니다.
지금 기술 업계에서 문화적 변화[1](https://youtu.be/Md3ZKlFLefk?t=1124)가 일어나고 있습니다. 팀 전체가 해고되고 있으며, 사용자들은 쉐도우 모더레이션을 발견하고 있습니다. 정직한 기술이 앞으로 나아가는 길입니다. 사람들이 무슨 일이 일어나고 있는지 발견할 때 어떻게 반응하는지 확인해 보세요[1](https://www.reveddit.com/about/faq/#react),
> _…삭제된 게시물이 여전히 살아있고 보이는 것처럼 보이게 만드는 데 따른 근거는 무엇입니까?_
> _…그러니까 모더레이터가 댓글을 삭제하지만, 작성자에게는 여전히 보이게 하는 거군요. 정말 악의가 있네요._
> _…놀라운 것은 통지를 받지 못하고, 당신에게는 댓글이 여전히 올라와 있는 것처럼 보인다는 것입니다. 즉, 모더레이터는 누구에게도 책임을 지지 않고 원하는 어떤 내러티브든 설정할 수 있다는 뜻입니다._
> _…와. 당신의 댓글을 제거해도, 당신의 쪽에서는 제거되지 않은 것처럼 여전히 표시됩니까?_
> _…와. 저는 여기에 12년 동안 있었고 항상 사람들이 아이디어를 공개적으로 나눌 수 있는 멋진 곳이라고 생각했습니다. 그런데 중국보다 더 검열이 심한 곳이더군요. 3, 2, 1… 안에 제거되었습니다._
그래서, 그것은 역효과를 냅니다. 사용자의 마음속에서, 당신은 이제 "_사용자_는 이것을 봐서는 안 되고, 오직 _나_ [모더레이터]만이 그것을 견뎌낼 헌법을 가진 사람"이라고 말하는 검열자가 됩니다.
그리고 참고로, 검열자는 _절대_ 자신을 검열자라고 지칭하지 않습니다. 제가 여기서 지적했듯이[1](https://twitter.com/rhaksw/status/1599540512457101313). 그것은 "검열"이라는 단어가 앤서니 컴스톡(Anthony Comstock) 시대부터 나쁜 것으로 여겨져 왔기 때문입니다. 그래서 그것은 종종 선택적 무가시성(selective invisibility)[1](https://www.wired.com/2009/03/st-thompson-12/), 가시성 필터링(visibility filtering)[1](https://twitter.com/bariweiss/status/1601014175366402048), 랭킹(ranking)[1](https://blog.twitter.com/en_us/topics/company/2018/Setting-the-record-straight-on-shadow-banning), 본인에게만 표시(visible to self)[1](https://www.theguardian.com/technology/2019/sep/25/revealed-how-tiktok-censors-videos-that-do-not-please-beijing), 축소(reducing)[1](https://blog.youtube/inside-youtube/the-four-rs-of-responsibility-remove/), 디부스팅(deboosting)[1](https://twitter.com/noupside/status/1597603276027219969), 또는 말막기(disguising a gag)[1](https://kraut.hciresearch.info/wp-content/uploads/2020/02/kiesler10-Regulation-current.pdf)와 같은 용어를 통해 다시 표현됩니다. 그것들은 모두 플랫폼과 쉐도우 모더레이션 옹호자들이 나쁜 단어인 "검열(censorship)"이라고 말하는 것을 피하기 위해 사용하는 구문입니다. 목록은 끝이 없습니다. 왜냐하면 그 목적은 그들이 하고 있는 것을 드러내는 것이 아니라 가리는 것이기 때문입니다.
당신은 철학적 논의를 원하지 않는다고 말하지만, 개인의 자유를 존중하면서 당신과 의견이 다른 사람과 다룰 때, 그 사람이 어디서 왔는지 궁금해하며 변호사나 군인이 아니라 _과학자_처럼 생각하는 것이 도움이 될 수 있습니다. 그레그 루키안오프(Greg Lukianoff)는 이것을 "인간 지식의 프로젝트"라고 부릅니다 [[영상 클립](https://youtu.be/yJnxQ7YNWTM?t=4867)] [[기사](https://www.thefire.org/news/blogs/eternally-radical-idea/13-important-points-campus-k-12-critical-race-theory-debate)].
요약하면, 검열로 인한 피해는 고려되어야 합니다. 트롤이 초래하는 피해에 대한 근시안적인 관점만 가지고 오늘날의 _실제_ 검열의 피해를 고려하지 않으면, 콘텐츠 모더레이션에 대한 대화를 진전시키지 못합니다. 왜냐하면 당신은 그림의 일부만 보고 있기 때문입니다. 쉐도우 모더레이션은 사실상 대중의 100%에게서 숨겨져 있습니다.
쉐도우 모더레이션이 이루어질 때 너무 많은 사용자가 토론 중재에 도움을 주는 것이 방지된다는 사실에 비추어 볼 때, 그들을 지원에 참여시키는 것은 합리적입니다. 투명한 모더레이션과 반대 발언을 통해 커뮤니티를 관여시키려는 시도가 전혀 이루어지지 않는 한, 저는 그것을 온라인 권위주의라고 부를 것입니다—모더레이터가 다른 모든 사람보다 더 잘 안다고 가장하는 신적 정신 상태. 그리고 궁극적으로, 이는 트위터, 페이스북, Reddit에서 주기적으로 발생하는 혼란에서 볼 수 있듯이, 관리자에게 그 가치보다 더 많은 문제를 가져다줄 것입니다. 그 공간의 사용자들은 조작을 발견하기 시작할 만큼 충분히 오래 그곳에 있었고, 그들은 더 나은 것을 원합니다.
---
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 16, 2022, 6:34오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/13 "2022-12-16T06:34:12Z")
> 이 상황에 대한 제 접근 방식은 Discourse User Notes를 사용하여 해당 사용자의 계정에 노트를 추가하여 다른 관리자들에게 경고를 주고, 새로운 위반 사항이 발생하면 빠르게 BAN 처리하도록 하는 것입니다. 사용자가 결국 떠나지 않는 경우는 한 번도 겪어본 적이 없습니다.
저도 같은 경험을 했습니다. 투명한 모더레이션은 사람들이 규칙을 이해하고, 그 규칙을 따를지 아니면 다른 곳에서 대화할지 결정하는 데 도움이 됩니다. 제가 인용한 모더레이터 업무량에 관한 연구도 이를 뒷받침합니다.
> 저는 우리가 더 나은 세상을 만들기 위해 우리의 역할을 다해야 한다고 생각합니다. 제가 여기서 설명하는 유형의 문제는 (제 관점에서) 정신 건강 문제를 겪고 있는 것으로 보이는 사용자를 다루는 것입니다. 인터넷과 현실 세계 모두에서 더 나은 시민이 되도록 돕는 방법을 알고 싶습니다.
시몬 씨, 좋은 의도에서 말씀하시는 것 같습니다! "떠나라"고 요청한 후에도 “결국 떠나지 않는” 개인은 매우 드물다고 생각합니다. 하지만 그런 상황이 _실제로_ 발생한다면, 일종의 "재판받을 권리"에 대해 우리가 다른 모든 사람에게 부여하는 것과 같은 존중을 받아야 한다고 생각합니다. 온라인에서의 모든 위반 사항에 대해 정식 재판을 열 수는 없으므로, 제가 제안하는 타협안은 _모든_ 사용자가 모더레이션 조치를 받았을 때 이를 알 권리가 있다는 것입니다. 이를 빼앗는 것은 사법부를 빼앗는 것과 같습니다. 정신 건강에 관해서도, 정신과 의사가 개인을 직접 면담하지 않고서는 그러한 평가를 내리지 않는 것처럼, 우리도 그렇게 해서는 안 된다고 생각합니다. "그 사람은 미쳤어"라는 말은 결국 섀도 모더레이션을 사용하여 재판받을 권리를 빼앗는 구실이 될 수밖에 없습니다.
만약 콘텐츠가 _불법_이라면, 즉 _“맥락상, 구체적이고 즉각적인 심각한 해를 직접적으로 초래하는”_[1](https://books.google.com/books?&hl=en&id=whBQDwAAQBAJ&q=in+context%2C+it+directly+causes+specific+imminent+serious+harm) (나딘 스트로센의 정의) 경우라면, 당국에 신고해야 합니다.
마지막으로, 자해가 요인이라고 생각된다면 위기 대응 핫라인을 추천할 수 있습니다. 이론적으로, 자신이나 타인에게 폭력을 주장하는 사용자의 댓글을 섀도 삭제하면, 그릇된 신념에 따라 행동할 가능성이 _더 높아질_ 수도 있습니다.
증오를 퍼뜨리는 집단이라고 생각하는 경우를 생각해 보십시오. 그들은 여전히 실제 폭력 선동은 제거할 수 있습니다. 하지만 관리자가 이를 비밀리에 수행한다면, 폭력적인 개인은 자신의 견해가 커뮤니티와 일치하지 않았다는 신호를 받지 못하게 됩니다. 이것이 행동 가능성을 더 높이는지 낮추는지 누가 알 수 있을까요? 그들은 반박이 없는 것을 묵시적인 승인이라고 인식할 수 있습니다.
제 논거는 브랜데이스 대법관의 것과 동일합니다. 햇빛이 최고의 소독제[1](https://louisville.edu/law/library/special-collections/the-louis-d.-brandeis-collection/other-peoples-money-by-louis-d.-brandeis)이며, 해결책에는 커뮤니티의 참여가 필요하다는 것입니다. 증오적인 댓글이라 할지라도 섀도 삭제하는 대신, 삭제를 알리는 신호를 줄 수 있습니다. 그 신호는 다른 상호작용, 예를 들어 여러분의 커뮤니티, 다른 커뮤니티, 또는 법 집행 기관과의 상호작용에서 혜택을 받을 수 있는 기회가 됩니다. 그렇게 함으로써 사회의 가장자리에 있는 사람들에게 덜 고립된 느낌을 줄 수 있는 기회를 제공함으로써, 여러분 자신과 세상을 더 안전한 곳으로 만들 수 있습니다.
일반적으로 저는 조너선 라우치의 조언을 따르려고 노력합니다. 그는 이렇게 [말합니다](https://www.youtube.com/watch?v=E0T9XSG73kY&t=4889s),
> “당신이 대화하는 사람은 당신이 직접 대화하는那个人이 아닙니다…”
기본적으로, 여러분이 옳다는 것을 모든 사람에게 설득할 필요는 없습니다. 독단적이거나 심지어 검열적인 태도를 보이는 다른 사람 앞에서 합리적으로 들리기만 하면 충분합니다. 증오스러운 말로 여러분을 압도하려고 시도함으로써 대화에서 검열적으로 행동하는 것이 법적으로 허용될 수 있다는 것은 사실이지만, 적절한 여지를 주면 그들은 바보처럼 보일 수도 있습니다. 이것이 온라인에서는 _효과적이지 않다는_ 인식은 광범위한 섀도 삭제 사용 때문일 수 있습니다. “증오스러운” 집단이 있는 공간에서 그들과 상호작용을 시도할 때, _여러분_이 모르게 섀도 모더레이션의 대상이 될 수 있습니다!
같은 강연에서 라우치는 \*“결국, 증오자들은 말하게 두면 스스로를 파묻습니다.”\*라고 [말합니다](https://youtu.be/E0T9XSG73kY?t=3083). 그리고 그는 무엇이 효과적인지 잘 알고 있을 것입니다. 60년대에 성장한 게이 남성으로, 여기[1](https://www.youtube.com/watch?v=E0T9XSG73kY&t=1774s)에서 설명된 바와 같이, 라우치는 수십 년간 게이 권리 운동에 활동적으로 참여해 왔으며, 상당한 성공을 거두었다고 평가받습니다. 따라서 동성애나 동성 결혼에 대한 여러분의 감정이 어떠하든, 표현의 자유라는 주제에 대해서는 그의 말을 들을 가치가 있습니다. 스페인 종교재판부터 앤서니 콕스톡, 공산주의와 맥카시즘, 티퍼 고어의 PMRC에 이르기까지, 현재의 소셜 미디어 시대는 표현의 자유가 도전받은 첫 번째 때가 아니며, 마지막 때도 아닐 것입니다.
저는 라우치의 마인드셋이 제 참여 방식을 모더레이션하고, 여전히 제 주장을 전달하면서 다른 사람들이 마음대로 말하게 하는 데 매우 효과적이라고 느꼈습니다. 저는 끊임없이 (a) 저는 오직 저 자신을 바꿀 수 있으며, (b) 이것이 세상을 긍정적인 방향으로 변화시키는 데 충분하다는 것을 수용하는 새로운 방법을 발견하고 있습니다.
---
### Author:  [@simon](https://meta.discourse.org/u/simon)
#### Post date: [12월 16, 2022, 11:03오후 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/14 "2022-12-16T23:03:25Z")
여기에는 아마도 두 가지 별개의 문제가 있는 것 같습니다. 첫 번째 문제는 관리자들이 문제 있는 행동에 대처하기 위해 최선을 다하는 것입니다. 여기에서 거슬리는 사용자를 그림 금지(shadow ban)하는 것이 하나의 접근법으로 제안되었습니다: [Discourse Shadowban](https://meta.discourse.org/t/discourse-shadowban/85041). 그 동기는 이해할 수 있지만, 이것이 관리 기법으로 큰 인기를 끌 것이라고는 생각하지 않습니다. 사용자가 그만큼 끈질기다면, 그것은 불가피한 갈등을 단순히 지연시키는 것에 불과하기 때문입니다.
두 번째 문제는 다른 플랫폼에서 일부 사용자의 게시글 도달 범위가 제한되지만, 사용자에게 이에 대해 어떤 알림도 주어지지 않는 상황입니다. 주목할 점은 이러한 사용자들은 서비스 약관(TOS)을 위반하지 않았다는 것입니다. 이와 유사한 기능을 구현하는 Discourse 플러그인을 만드는 것은 기술적으로 가능하지만, 해당 사이트가 극도로 활발하지 않다면 빠르게 발각될 것이라고 생각합니다. 사실 저는 Discourse와 같은 탈중앙화 커뮤니티 플랫폼이 이 문제에 대한 해독제라고 생각합니다. 극단적인 예로, 누군가가 "지구가 태양을 돈다"는 말을 위험한 허위 정보로 간주하는 커뮤니티를 만들고 싶다면, 그렇게 할 자유가 있습니다. 지동설을 믿는 사람들은 다른 커뮤니티를 찾아 가입하면 됩니다.
또 다른 문제는 특정 문제에 대해 주류 서사에 반하는 커뮤니티에 대해 호스팅이나 결제 처리 서비스를 찾기 불가능해지는 경우입니다. 지적 호기심과 다양성의 가치를 장려하려는 시도를 제외하고는, 이 문제를 어떻게 다뤄야 할지에 대해 큰 제안은 없습니다.
> [@rhaksw](#):
>
> 당신이 좋은 의도에서 말하고 있는 것처럼 들립니다
아마도 그럴 수 있지만, 실제 문제에 대한 해결책을 제시하는 것도 좋은 비즈니스 전략입니다. 단순히 금지 조치만 취하는 대신 트롤 유형의 행동에 대해 사람들을 돕는 방법은 아직 해결되지 않은 문제로 느껴집니다. 커뮤니티가 이 문제를 해결하는 데 도움이 되는 도구를 Discourse가 제공할 수 있다고 상상해 볼 수 있습니다. 또한, 훈련된 치료사가 근무하는 외부 서비스로 아웃소싱하는 것도 가능합니다.
---
### Author:  [@rhaksw](https://meta.discourse.org/u/rhaksw)
#### Post date: [12월 17, 2022, 12:02오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/15 "2022-12-17T00:02:29Z")
시몬, 시간을 내어 답장을 주셔서 감사합니다. 트롤을 때로는 방치할 수 있다는(즉, _그림자_ 모더레이션이 아닌 _투명한_ 모더레이션을 통해) 제 주장에 대해 당신이 설득되지 않았다는 것을 알 수 있습니다. 또한 그림자 모더레이션이 디스커스의 사용량 증가를 유인할 수 있다는 점에서도 당신 역시 설득되지 않은 것으로 보입니다. 아마도 사실일 수도 있고, 아닐 수도 있겠죠. 시간이 지나면 알 수 있을 것 같지만, 바로는 아닐 수도 있습니다. 그림자 모더레이션이 "빠르게 발견된다"는 주장에는 강력히 동의하지 않습니다. 지적 호기심과 다양성을 장려하는 것이 과소평가되어서는 안 된다는 점, 그리고 좋은 비즈니스 전략이 근본적인 역할을 한다는 점에는 동의합니다.
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [12월 17, 2022, 12:27오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/16 "2022-12-17T00:27:00Z")
공식 Discourse 입장을 여기에 크로스링크합니다
> [@슬로우밴인지 에러밴인지?](https://meta.discourse.org/t/slowban-or-errorban/141633/6?u=sam):
>
> Just to put the Discourse position out there. We have no plans in the foreseeable future to build slowban, errorban, hellban, disemvowling, automated retaliatory DoS attacks, downloadfloodban, bitcoinban and any other retaliatory features into the core product. We also have no plans to build plugins around this area. This kind of stuff would have to be in a third party plugin.
---
### Author:  [@simon](https://meta.discourse.org/u/simon)
#### Post date: [12월 17, 2022, 1:36오전 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/17 "2022-12-17T01:36:04Z")
> [@rhaksw](#):
>
> 트로들이 때로는 방치할 수 있다는(즉, _그림자_ 모더레이션이 아닌 _투명한_ 모더레이션을 통해) 내 주장에 여러분이 설득되지 않았다는 것을 알 수 있습니다.
여기서 제 생각을 표현하는 것이 너무 신중했던 것 같습니다:
> [@simon](#):
>
> 모더레이션이 투명해야 한다는 데 동의하지만, 떠나지 않는 트롤을 처리하는 데 그림자 밴(shadow banning)이 유혹적으로 보일 수 있다는 점은 이해할 수 있습니다.
> [@simon](#):
>
> 동기는 이해할 수 있지만, 모더레이션 기법으로서 큰 호응을 얻지는 못할 것 같습니다. 사용자가 그렇게 집요하다면, 그것은 불가피한 갈등을 지연시키는 것에 불과하기 때문입니다.
그림자 밴은 끔찍한 아이디어라고 생각합니다. 물론 인터넷의 미래에 대해 많은 우려가 있지만, Discourse의 경우 그림자 밴이나 사이트 콘텐츠의 은밀한 조작이 널리 퍼질 것이라는 점은 우려하지 않습니다. 첫째, 위에서 언급했듯이 해당 기능은 Discourse 코어 코드에 존재하지 않으며, 팀도 이를 위한 플러그인을 개발할 계획이 없습니다. 둘째, Discourse 사이트에 이러한 유형의 기능을 추가하는 데 유효한 사용 사례를 찾을 수 없습니다. 이를 구현하는 것이 사이트 소유자에게 이점이 될 수 있는 상황을 상상할 수 없기 때문입니다.
> [@rhaksw](#):
>
> 지적 호기심과 다양성을 장려하는 것이 과소평가되어서는 안 된다는 점에는 동의합니다.
제가 추가로 장려하고 싶은 한 가지가 있다면, 그것은 이견의 가치입니다. 합의가 아닌 이견을 장려하는 것이一群人의 모든 가용한 관점을 끌어내는 가장 빠른 방법입니다.
---
### Author:  [@bobmarley](https://meta.discourse.org/u/bobmarley)
#### Post date: [11월 11, 2023, 9:22오후 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/18 "2023-11-11T21:22:51Z")
섀도밴 플러그인 또는 기능이 필요한 상황이 있다는 것을 알고 있습니다.
우리는 유료 프로그램을 운영하고 있으며, 학생들의 99%가 이를 사랑합니다. 하지만 일부 악성 사용자가 포럼에 들어와 부정적인 내용으로 다른 사용자들을 "독"으로 오염시킵니다. 이 사람들은 돈을 지불했기 때문에, 이 악성 사용자는 FUD(공포, 불확실성, 의심)를 퍼뜨리고, 새로운 사람들이 들어와 그 FUD를 보고 환불을 요구하게 됩니다.
이 악성 사용자도 돈을 지불했기 때문에, 그들에게도 환불을 해주고 싶지 않습니다. 왜냐하면 이런 유형의 사람들이 우리의 시간을 가장 많이 소모하기 때문입니다.
우리 스태프는 악성 사용자를 처리하고 좋은 사용자들을 오염시키는 것을 막는 데 몇 시간씩을 허비하고 있습니다.
그래서 네… 우리는 악성 사용자를 섀도밴하여, 지원 팀이 그들의 게시물과 답장에 응답할 수 있고, 그들은 자신이 여전히 "포함"되어 있다고 생각하게 만들어, 지원 팀과 우리 훌륭한 사용자들에게 삶이 즐겁고 행복하도록 하고 싶습니다. 또한 우리 훌륭한 사용자들이 오염되지 않도록 하려는 것입니다.
"그냥 악성 사용자에게 환불해라"라고 하기 전에… 아니, 그것이 답이 아닙니다.
우리는 토픽과 답장에 대해, 그리고 사용자가 영구적으로 섀도밴되었을 때 사용자별로 적용되는 섀도밴 기능이 필요합니다.
이 기능에는 정당한 사용 사례가 있습니다.
---
### Author:  [@JammyDodger](https://meta.discourse.org/u/JammyDodger)
#### Post date: [11월 11, 2023, 10:53오후 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/19 "2023-11-11T22:53:19Z")
> [@bobmarley](#):
>
> “나쁜 사과만 환불해 주면 되지…”라고 말하기 전에… 그게 답이 아닙니다.
호기심에 물어보는데, 이 상황에서 커뮤니티에서 원치 않는 멤버들을 제거하는 것이 왜 답이 되지 않을까요?
그들이 자신이 완전히 받지 못하는 것(예: 커뮤니티 참여)에 대해 돈을 내고 있다는 사실을 알게 될 때, 오히려 더 큰 문제가 되지 않을까요?
---
### Author:  [@bobmarley](https://meta.discourse.org/u/bobmarley)
#### Post date: [11월 11, 2023, 10:57오후 UTC](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903/20 "2023-11-11T22:57:43Z")
그들은 환불을 해줍니다. 하지만 커뮤니티 이상의 많은 것을 얻고 있죠. 포럼은 그중에서도 아주 작은 부분일 뿐입니다. 소프트웨어, 도구, 교육까지 포함되니까요. 다만, 그들은 커뮤니티 내에서 다른 사람들을 FUD(공포, 불확실성, 의심)하게 만들거나, 다른 사람들이 의심하게 만들거나 환불을 원하게 만드는 행위를 할 수 없습니다. 20년간 이 일을 해오면서, 인생의 모든 것에 대해 부정적인 태도를 보이는 사람들이 일정 비율 존재한다는 것을 알고 있습니다. 그래서 실제로 행동에 나서고 있는 유료 고객들을 보호해야 합니다.
그들이 돈을 내고 이용하는 것이 포럼 하나에 불과했다면 이야기가 달라졌을 것입니다… 하지만 이건 2K짜리 상품이라서, 부정적인 사람들을 위해 유료 회원들을 보호해야 합니다.
[다음 페이지](https://meta.discourse.org/t/shadowbans-are-bad-for-discourse-and-heres-why/248903.md?page=2)