커뮤니티 관리자에게 AI 답변을 허용하는지 묻던 다른 주제 덕분에 이런 생각이 들었습니다. 새로운 워크플로우 기능과 사용자 맞춤형 게이미피케이션 플러그인 같은 몇 가지 유용한 기능이 있다면, 실제 인간 사용자는 다른 사용자들로부터 존중(Respect) 투표를 받고 AI는 반대(Down) 투표를 받는 시스템을 만드는 것이 어렵지 않을 것입니다. 사용자가 가진 존중 점수가 높을수록 그 사용자가 행사하는 투표(찬성 또는 반대)의 영향력도 커지는 방식입니다.
Discourse에 내장된 신뢰(Trust) 시스템은 기본적으로 거의 동일한 개념입니다.
스팸이 시스템을 악용하는 모습을 직접 여러 번 목격했습니다. 스팸러들은 AI 관련 주제를 게시한 후, 다른 계정을 이용해 자신의 주제에 찬성 투표를 합니다. 결국 AI가 스스로를 스팸하는 셈이죠 
제 ‘존중’ 시스템도 결국 악용당할까요, 아니면 포럼을 스스로 관리하고 인간 간의 상호작용을 장려하는 동시에 관리 업무 부담을 줄일 수 있을까요?
표결(Post Voting) 플러그인이 이 기능과 아주 잘 맞을 것 같습니다.
AI 기반 계정들이 실제로 포스트를 좋아하고, 상호작용하며, TL3에 도달할 정도로 활동하고 있는지는 궁금합니다. 만약 그렇다면 문제가 될 수 있겠죠.
그렇다면 해결책으로 승격 기준을 수집한 포인트 수량으로 변경하는 것이 있을 수 있습니다. 하지만 이는 전체 시스템의 근본적인 변화가 될 것입니다. 포럼에서 포인트를 얻기 위해 더 공격적인 게이미피케이션(문자 그대로)을 장려하게 될 것입니다. 하지만 생각해보면, 좋은 AI가 아닌 콘텐츠를 공격적으로 게시하는 것도 긍정적인 일이 될 수 있습니다…
문제는 점점 더 많은 사람들이 AI를 활용해 자신의 생각을 형성하고 있다는 점입니다. 우리는 주제어를 작성창에 그대로 붙여넣는 사람들의 수가 증가하는 추세에서 이를 확인할 수 있습니다. 실제로 저는 이 지표를 조회할 수 있는 봇을 운영하고 있어, 게시물의 'AI성’을 점검하는 차원을 하나 더 추가했습니다.
사람들이 자발적인 대리인이 되어, 디지털로 처리된 콘텐츠가 자신의 것이라고 믿기 시작하면, 존중 시스템은 무너질 것입니다.
이것이 작동하려면 포럼의 모든 구성원에게 공통된 기반, 즉 가치관이 필요하다고 보는데, 제 생각에는 어떤 대규모 집단, 하물며 온라인 커뮤니티에서는 그런 것이 불가능합니다.
sock puppet(소켓 퍼펫)과 voting ring(투표 링)은 이미 인간들이 실제로 사용하는 수법이며, 에이전트들이 자신의 목표 달성에 도움이 된다고 판단한다면 필연적으로 에이전트들도 이를 활용할 수 밖에 없을 것입니다.
이것은 무장 경쟁(arms race)이며, 따라서 이길 수 없는 싸움이라고 생각합니다. 어떤 대응책이 가치가 있는지는 결국 경제학의 문제입니다.
이전에 Slashdot의 metamoderation(메타모더레이션) 방식을 언급한 적이 있을지도 모릅니다. 저는 항상 그 방식에 깊은 인상을 받았습니다. 아마도 투표 플러그인과 크게 다르지 않을 수 있지만, 추가적인 메커니즘이 포함되어 있을 가능성이 높습니다. Slashdot는 이러한 문제를 해결해야 했던 초기 인기 사이트 중 하나로, 원한다면 우리가 배울 수 있는 역사적 사례라고 할 수 있습니다.
이것을 확장할 수 있을지 궁금합니다
…음모 집단을 식별하는 데 도움이 될 수 있도록 말이죠.