모더레이션(운영진 관리)에 대해 여기에서 몇 가지 고무적인 글을 읽었습니다. 예를 들어 @codinghorror님의 이 글1이 있죠. 저도 이 주제에 대해 제 생각을 좀 나누고 싶었습니다.
최근 트위터의 공개1로 인해 섀도우밴(Shadowban)과 유사한 모더레이션 도구의 사용에 대한 논쟁이 다시 불붙었습니다. 이런 도구들은 디스커스에 좋은 것일까요, 나쁜 것일까요? 이 글을 통해 모더레이터와 사용자들 사이에서 섀도우밴 사용에 대한 논의를 촉발하길 바랍니다.
저의 가설은 투명한 모더레이션이 모더레이터와 사용자 간의 신뢰를 바탕으로 준비된 사용자 기반을 형성하는 반면, 섀도우 모더레이션은 해결하는 것보다 더 많은 문제를 만든다는 것입니다. 따라서 저는 섀도우밴과 같은 수단은 절대* 사용해서는 안 된다고 주장합니다. 디스커스 설치 환경과 같은 “작은” 포럼일지라도 말입니다.
저에 대하여
저는 Reveddit의 저자입니다. Reveddit은 레드디터들이 비밀리에 삭제된 자신의 콘텐츠를 확인할 수 있게 해주는 사이트입니다. 2018년에 Reveddit이 출시된 이후, 저는 레드디트1, 해커 뉴스1, 그리고 최근에는 트위터1에서 섀도우밴과 유사한 도구의 광범위한 사용에 대한 제 반대 입장을, 이를 '섀도우 모더레이션’이라 부르며 공개적으로 밝혀왔습니다. 가장 인기 있는 모든 플랫폼에서 어떤 형태로든 섀도우 모더레이션이 이루어지고 있다는 데 의문이 남는다면, 2022년 Truth and Trust Online에서의 제 강연1의 5:50부터 8~9번 슬라이드, 또는 Using the Whole Whale에 출연한 제 모습1을 참고해 주세요. 이 관행이 모든 계층의 사용자들 사이에서 인기가 없다는 데 의문이 남는다면, Reveddit의 FAQ1에서 수천 명의 사용자들의 반응을 확인해 보세요.
서론
참고로, 섀도우밴과 유사한 행동에 대한 기존 정의들을 몇 가지 소개합니다:
- “게시한 사람 자신만 제외하고 다른 모든 사람에게 해당 사람의 콘텐츠를 발견할 수 없도록 의도적으로 만드는 것. 이는 원 게시자가 모르게 이루어진다.” - 트위터 블로그1
- “헬밴(Hellbanned)된 사용자는 다른 모든 사용자에게 보이지 않지만, 결정적으로 본인에게는 보입니다. 그들의 관점에서 보면 커뮤니티에 정상적으로 참여하고 있지만 아무도 그들에게 응답하지 않습니다. 그들은 더 이상 커뮤니티를 교란할 수 없는데, 이는 사실상 유령이 되기 때문입니다.” - 코딩 호러(Coding Horror)1
그리고 저의 두 가지 정의는 다음과 같습니다:
-
투명한 모더레이션(Transparent Moderation): 사용자가 자신의 콘텐츠에 대해 취해진 조치에 대해 통지를 받는 경우.
-
섀도우 모더레이션(Shadow Moderation): 조치된 콘텐츠의 작성자에게 모더레이터의 조치를 은폐하는 모든 행위.
플랫폼이 투명성에 대해 이야기할 때, 그들은 단순히 정책을 명확하게 구분하는 것을 의미합니다. 이는 투명한 모더레이션과 같지 않습니다.
명확히 하자면, 저는 투명한 모더레이션의 사용을 지지합니다. 저는 PATA1(미국)나 DSA1(유럽, 각각 플랫폼 책임 및 투명성 법과 디지털 서비스 법)와 같이 플랫폼에 투명성을 강제하기 위한 정부의 소셜 미디어 개입을 지지하지 않습니다. 따라서 저는 플랫폼이 섀도우 모더레이션을 수행할 법적 권리도 인정합니다.
투명한 모더레이션의 당위성
투명한 모더레이션의 당위성은 섀도우 모더레이션에 반대하는 논거로 가장 잘 정의될 수 있습니다.
섀도우 모더레이션은 1,000년 된 개념인 해베아스 코르푸스(Habeas corpus, 즉 피고인이 고소인/고발인을 대할 권리가 있다는 원칙)에 반합니다. 해베아스 코르푸스의 가치는 미국 헌법의 수정헌법(제6조)으로 명시되어 있지만, 이는 또한 우리가 자신에게 기대하는 기본적 존엄이므로 타인에게도 부여해야 할 것입니다. 단순히 말해, 비밀스러운 처벌은 부당합니다.
"하지만 이건 사적 플랫폼이잖아!"라고 말할 수 있습니다. 사실 그렇습니다. 그러나 사적인 영역에서도 우리는 여전히 일부 이상을 지키기 위해 노력합니다. FIRE의 그렉 루카노프(Greg Lukianoff)가 여기에서 설명하듯 말입니다.
존 스튜어트 밀(John Stuart Mill)은 『자유론』(On Liberty)에서 동일한 논거를 제시하며, *“따라서 법관의 독재로부터의 보호만으로는 충분하지 않습니다: 우세한 의견과 감정의 독재로부터의 보호도 필요합니다.”*라고 썼습니다.1
"봇 스팸을 처리하려면 필요해!"라고 말할 수도 있습니다. 이는 단기적으로만 유효합니다. 장기적으로 보면, 봇은 자신의 콘텐츠 가시성을 확인하는 방법을 발견하겠지만, 대부분의 사용자는 그렇지 않을 것입니다. 따라서 투명한 모더레이션은 봇에게도 똑같이 잘 작동할 것이며, 섀도우 모더레이션은 진정성 있는 개인에게만 해를 끼칩니다.
아마도 "저는 작은 포럼에서만 사용하고 있어요."라고 말할 수 있습니다. 그렇다면 저는 묻고 싶습니다. 정말로 기만적인 수단에 의존할 필요가 있을까요? 작은 디스커스 설치 환경에서 섀도우 모더레이션에 익숙해지는 것은 더 큰 플랫폼에서의 사용을 지지하는 발판이 될 수 있으며, 거기서 발생하는 해악은 저에게 명확합니다. 모든 플랫폼, 모든 지역, 모든 이슈의 모든 측면이 영향을 받습니다. 레드디터의 50% 이상이 지난 한 달 동안 어떤 댓글이든 삭제된 경험이 있습니다. 이는 무수한 대화를 중단시킵니다. 아마도 증오가 "해방"될 경우 일어날 일에 대한 두려움 때문일 것입니다. 하지만 Reveddit은 4년 동안 존재해 왔고, 그런 일은 일어나지 않았습니다. 대신 제가 관찰한 것은 더 건강한 커뮤니티이며, 제 강연에서 그 많은 예를 링크했습니다.
대규모로 이루어지는 섀도우 모더레이션은 또한 당신의 이념적 반대자를 강화시킵니다. 당신이 무례하다고 생각하는 집단은 섀도우 모더레이션을 무례하게 사용할 가능성이 더 높습니다. 당신이 그러한 도구를 구현할 수 있는 권한 있는 위치에 있을 때 얻는 모든 이점은 시간이 지남에 따라 소실될 것입니다. 그리고 당신이 섀도우 모더레이션을 사용하는 한, 다른 곳에서의 그 사용에 대한 논쟁에서 이길 수 없습니다.
제 지식范围内, 섀도우 모더레이션의 효과를 연구하기 위한 적은 연구가 이루어졌습니다. 투명성이 높아질수록 모더레이터의 업무량이 줄어든다는 것을 시사하는 한 연구1는 알고 있습니다. 그러나 우리는 폐쇄적인 사회보다 개방적인 사회가 번영한다는 것을 알고 있습니다.
방치된 채로 두면, 섀도우 모더레이션은 이러한 보호가 제공되지 않는 현실 세계의 대화에 대비하지 못한 고립된 부족 그룹을 키웁니다. 이는 우리가 통제할 수 있는 것의 한계를 받아들이지 못할 때 언어가 가하는 해악이 실제이기 때문에, 폭력이나 자해 행위로 이어질 수 있습니다. 대신 우리는 증오에 맞서 반박 발언(counter speech)으로 대응하고, 사용자 기반이 그렇게 하도록 장려할 수 있습니다.
마지막으로, 새로운 입법이 이를 해결해 주지 않습니다. 그러한 어떤 법도 우리의 개인적 자유를 침해하고, (a) 권리 헌장이 보호하도록 설계된 바로 그 권력 기관을 강화하거나, (b) 모든 코드에 대한 정부 접근 권한을 부여하지 않고는 투명성을 강제할 방법이 없으므로 작동하지 않는다는 의도하지 않은 결과를 초래할 것입니다. 따라서 당신은 제자리로 돌아가거나, 시작할 때보다 더 나쁜 상황에 처하게 됩니다. 해베아스 코르푸스, 즉 시민적 담론에 대한 지지는 실제 투명한 모더레이션에 대한 문화적 지지를 통해 가장 잘 달성됩니다. 이것에 못 미치는 것은 부패한 상처를 가리는 반창개에 불과할 것입니다.
결론
결론적으로, "그가 하고 있으니, 동등한 입장에서 경쟁하려면 나도 해야 한다"는 입장을 취해서는 안 됩니다. 대신, 당신과 그 모두의 입지가 나쁠 수 있음을 고려해 보세요. 섀도우 모더레이션을 사용하지 않는 디스커스 설치 환경과 다른 포럼들은 더 견고한 기반을 가지고 있습니다. 그들의 사용자 기반은 준비되어 있으며, 모더레이터와 사용자들은 서로를 신뢰하므로, 양쪽 모두 공개적이고 솔직하게 말하기가 자유롭습니다. 그리고 섀도우 모더레이션의 광범위한 사용을 감안할 때, 투명한 모더레이션을 목소리 높여 지지하는 것은 지금比以往任何时候보다 중요합니다.
부록
트위터에서 아직 보고되지 않은 섀도우 모더레이션의 사용 사례 중 하나는, 특정 링크의 언급에 기반하여 트윗이 자동으로 숨겨지는 경우일 수 있습니다. 저는 연간 2달러짜리 저렴한 도메인(.win TLD)을 구매한 제 새로운 블로그 링크를 공유했을 때 이를 발견했습니다. 트위터를 통해 공유한 후, 제 트윗이 제게는 보이지만 다른 사람들에게는 보이지 않는다는 것을 알게 되었습니다. 예를 들어, 이 트윗1에는 “추가 답글 보기” 버튼을 클릭해도 제 답글이 표시되지 않습니다. 제 답글을 보려면 링크에 직접 접근해야 합니다1. 사실상, 그 답글은 이미 저를 아는 사람을 제외하고는 누구에게도 보이지 않으며, 로그인된 상태에서 시스템은 그 사실을 저에게 은폐합니다.
* 제가 광범위한 검열이 유용하다고 생각하는 유일한 상황은 사회가 그 해악을 잊었을 때입니다. 그 경우, 그것은 필연적으로 다시 돌아올 것이며, 단지 그 해로운 효과를 우리에게 한 번 더 상기시키기 위해서일 것입니다.