Discourse 포럼에 AI를 통합하여 모더레이션(관리)을 보조하는 방법을 찾고 있습니다. 모더레이터를 대체하는 것은 필요 없으며, 인간이 보통 발견하기 어려운 문제를 포착하는 데 도움이 필요합니다. 때로는 이러한 문제가 모더레이터에게 문자 그대로 보이지 않기 때문일 수 있습니다(예: 같은 IP 주소에서 여러 계정을 생성하는 스팸 사용자). 다른 경우에는 모더레이터에게도 문제가 보이지만, 게을러져서 놓치기 쉬운 경우도 있습니다(예: 잘못된 카테고리에 게시된 주제나 원래 방향에서 벗어나고 있는 주제).
AI 모더레이터가 도움을 줄 수 있는 작업은 끝없이 많습니다. 머릿속에 떠오르는 몇 가지 아이디어를 나열해 보겠습니다:
모든 새 게시물을 모니터링하여 스팸 사용자인지 합법적인 사용자일 가능성을 나타냅니다.
특정 신뢰 수준에 도달할 때까지 신규 사용자 및 그들의 활동을 모니터링합니다.
정지된 후 새 계정을 만드는 문제 사용자를 포착합니다.
잘못된 카테고리에 게시된 주제를 식별하고, 어떤 카테고리로 이동해야 하는지 제안합니다.
NSFW(성인) 콘텐츠를 플래깅하고 즉시 삭제합니다.
주제의 대화가 원래 방향에서 벗어나거나 잠금 처리해야 하는 시점을 식별합니다.
이미 다뤄진 주제인지 식별하고, 해당 주제로 리디렉션해야 하는지 판단합니다.
사용자가 여러 계정을 생성했는지 식별합니다(같은 IP 주소에서 여러 사용자가 로그인하는 경우).
사용자가 자사 홍보성 또는 관련 없는 게시물을 작성하는지 식별합니다.
또한(이것은 약간 다른 방향이지만), AI가 명확하게 표시된 AI 프로필로 특정 주제에 응답할 수 있는 시기도 있습니다. 예를 들어, 누군가 포럼 사용 방법이나 특정 기능(예: 프로필 업데이트 방법)을 찾는 방법에 대한 질문을 게시하면, 봇은 쉽게 답변할 수 있는 질문인지를 식별한 뒤 개입하여 방법을 설명할 수 있습니다.
여기서 겨우 표면만 긁어보고 있지만, 근본적인 질문은 이렇습니다: Discourse에서 이러한 유형의 모더레이션 작업을 보조할 수 있는 AI 봇을 만든 사람이 있습니까?
그렇지 않다면, 이러한 혁신을 가로막고 있는 것은 무엇일까요? 이것은 인간을 대체하기 위한 것이 아니라(일부 경우에는 가능할 수 있지만), 인간이 업무를 훨씬 더 잘 수행하도록 돕는 데 매우 유용할 것 같습니다.
어제 @Jagster(Jakke, 알려주셔서 감사합니다)로부터 이 소식을 처음 들었습니다. 조금 더 살펴보니, 특히 고급 버전에 대해 확인해 보니, 이 기능을 구현하려면 엔터프라이즈 호스팅 계정을 사용하거나 꽤 사양이 높은 자체 호스팅 서버를 구축해야 할 것 같습니다. 어느 쪽이든 비용이 꽤 들 것 같습니다.
어쨌든 이미 이런 옵션이 있다는 것을 알게 되어 다행입니다. 중요한 요구 사항들을 충족하는 것으로 보이지만, 활용할 수 있는 방법이 훨씬 더 많을 것 같습니다. 앞으로 몇 개월, 몇 년간 이 기능이 어떻게 발전해 나갈지 기대됩니다. 이런 종류의 기술에는 엄청난 잠재력이 있습니다!
저는 포럼을 사용하는 것을 좋아합니다. 왜냐하면 우리는 모두 공통의 관심사나 목표를 가진 실제 사람들이기 때문입니다. 누군가가 질문에 대해 잘못된 답변을 하면, 반드시 다른 사용자가 나타나서 수정해 줍니다. AI가 잘못된 답변을 한 경우에도 같은 일이 일어날 수 있겠지만, 그 느낌은 전혀 다릅니다. 또한, 다른 사람들이 문제를 어떻게 접근하는지 읽는 것은 우리 자신의 사고 과정에도 도움이 됩니다. 저는 누군가의 잘 논리화된 답변을 읽으며 새로운 사고 방식을 발견하거나, 이미 잘 알고 있다고 생각했던 일을 새로운 방식으로 수행하는 법을 배우곤 했습니다.
또 다른 고려 사항은 오탐(false positives)의 가능성입니다. 이는 (그리고 실제로!) 사람들을 떠나게 만듭니다. 만약 제가 신규 사용자로 포럼을 방문했는데, 기계가 실수로 제 게시물을 플래그/표시하거나 계정을 정지시키거나 기타 조치를 취했다면, 그리고 그것이 명백히 일어나지 말았어야 할 일이었다면, 저는 아마도 다시 돌아오지 않을 것입니다. 사이트에서 벗어나 모든 것을 잊어버리거나, 수정을 요청하는 번거로움을 감수할 만큼 짜증이 날 것이기 때문입니다.
모더레이션에서 인간적인 요소를 제거하려는 충동은 잘못된 방향으로 가고 있다고 생각합니다. 모더레이션에는 때때로 예측 가능한 규칙이 있을 수 있습니다 - 예를 들어, 감시 단어 기능이나 IP 주소 매칭을 사용하여 그런 문제를 처리할 수 있습니다. 하지만 알고리즘으로 모호한 부분을 처리하는 것은 완벽한 알고리즘을 찾는 끝없는 추격전으로 끝나고, 근본적인 행동을 다룰 수 있는 더 건강한 커뮤니티를 구축하는 데서 주의를 분산시킵니다. 궁극적으로, 제 희망은 사용자들이 그들의 행동을 변화시키는 것입니다. 그리고 그들은 그것을 할 수 있다고 믿어야 합니다.
루틴한 질문들은 사람들이 인간적인 연결을 형성할 수 있는 기회이며, 이러한 접점은 포럼을 응원할 장기적인 사용자를 개발하는 데 필수적입니다. 쉬운 질문에 답하기 위해 나타나는 친근한 얼굴은 AI로는 결코 만들 수 없는 방식으로 환영하는 분위기를 조성합니다. 이는 커뮤니티 구축 측면에서 쉽게 얻을 수 있는 성과입니다!