이 응답이 문제를 해결할 수는 있지만, 저 스스로 AI에게 물어보았으면 같은 응답을 얻을 수 있었을 것입니다. 아직 이 문제가 광범위하지는 않지만, 커뮤니티 내 개인의 고유한 개성이 사라지고 있다는 점이 우려됩니다. 커뮤니티의 가장 좋은 점은 그 안에 있는 사람들, 그리고 그들의 독특한 아이디어, 생각, 경험, 그리고 언어입니다.
다른 커뮤니티들이 이 문제를 어떻게 다루는지 매우 궁금합니다! 여러분의 생각을 공유해 주세요!
내 원칙은 AI를 사용해 포럼 게시글을 작성하거나 수정하지 않는 것입니다. 즉, 우리는 AI가 말하는 것이 아니라 여러분이 직접 하고 싶은 말을 듣고 싶습니다. AI로 생성한 텍스트를 붙여넣고, AI가 쓴 내용에 대해 의견을 덧붙이는 것은 괜찮습니다. 단, AI 생성 콘텐츠 위에 그것이 AI가 쓴 글임을 명시해야 합니다. 예를 들어 다음과 같이요:
“ChatGPT에게 ___에 대해 물어봤더니 ___라고 답했습니다. ChatGPT가 쓴 내용에 대해 제 생각은 이렇습니다.”
저는 콘텐츠의 품질을 신중하게 관리합니다. 2025년에 생성된 AI 콘텐츠는 10년 뒤에는 낡아 보일 것이라고 생각합니다. 마치 오래된 영화의 특수효과가 더 이상 그럴듯해 보이지 않는 것과 비슷하죠.
사람들이 질문을 하고 AI가 답한다면, 왜 ChatGPT에 직접 묻지 않고 포럼을 찾을까요? 저는 앞으로 포럼의 가장 큰 가치는 봇이 아닌 인간으로부터 답을 얻을 수 있다는 점이라고 생각합니다.
다음과 같은 점을 유의해야 합니다: 이러한 관행을 억제하면 잠재적인 신규 사용자들이 떠날 수 있습니다. 가능한 해결책은 이를 위한 카테고리를 만들고, 사용자가 해당 카테고리에 콘텐츠를 올릴 수 있도록 두는 것입니다. 이렇게 하면 사용자는 가치 있는 기여를 했다는 느낌을 받을 수 있고, 다른 사용자들은 필요할 때 포럼의 다른 부분에서 해당 콘텐츠에 링크를 걸 수 있으며, AI 게시물에 관심이 없는 사용자는 해당 카테고리 및 링크를 건너뛸 수 있습니다.
향후 사용자 포럼에서 AI 게시물은 계속 존재할 것입니다. 앞으로 몇 년간 이에 대한 규범이 생길 것 같지 않습니다. 이는 AI의 정규 교육에서의 사용에 관한 문제와 비슷합니다.
그러나 AI, LLM, 디퓨전 모델의 새로운 물결 속에서 유일한 상수는 변화입니다. 따라서 이 답변은 돌에 새겨진 것처럼 고정된 것이 아니며, 미래에는 저조차도 동의하지 않을 수 있는 내용으로 봐주십시오.
사실 상황에 따라 다르죠, 그렇죠? 위의 예시에서 만약 답변에 명백한 오류가 있었다면, 특히 독자를 더 큰 문제로 이끌 수 있는 오류였다면 게시자를 향해 화가 났을 겁니다. 사람들이 정보를 검증하고 적절성과 정확성을 확인하는 시간을 들인 후 AI 답변을 게시하는 것에는 문제가 없습니다. 더 나아가, 생성된 콘텐츠가 자신이라면 어떻게 정보를 공유했을지와 비슷하거나 더 나은 수준이라고 동의한다면 더 좋습니다.
반면, 단순히 LLM에 무언가를 넣고 답변을 복사해서 붙여넣은 채로, 그 내용이 정확한지 판별하는 것은 나와 같은 독자의 몫이라고 기대한다면, 나는 기분이 좋을 수 없습니다. 잘못된 정보를 정확한 것처럼 제시함으로써 내 시간을 낭비시키는 것뿐 아니라, 커뮤니티 전반의 신뢰성, 혹은 적어도 여러분 자신의 향후 답변에 대한 신뢰성을 떨어뜨리는 행위이기 때문입니다.
앞으로 수년 내에 많은 선의의 사람들이 포럼에서 LLM 사용을 줄일 것으로 예상합니다. 남아 있는 사람들은 악의적인 행위자이거나, 애초에 포럼의 본질을 이해하지 못하는 사람들이 될 것입니다. 이는 순전히 일화일 뿐이지만, 저는 약 2년째 매일 LLM을 사용해 왔고, 점점 더 스스로 생성한 콘텐츠로 넘어가고 있습니다. 어제 저는 크게 신경 쓰이지 않는 블로그 글을 쓰려고 했습니다. GPT를 사용해 보기로 했는데, 어떻게 하든 항상 GPT 특유의 어조가 나서 매우 싫었습니다. 그래서 Claude를 시도해 보았지만, 1시간 동안 작업해도 그 콘텐츠는 실제 살아있는 사람이 쓴 것처럼 들리지 않았습니다. 결국 총 3시간을 허비한 후, 모든 것을 버리고 1시간 만에 직접 글을 썼습니다.
이 이야기의 핵심은 이렇습니다. 적어도 제 경우, 모델이 아무리 좋아져도 스스로 생성한 콘텐츠가 점점 더 보람 있는 것으로 입증되고 있습니다. LLM을 사용하는 다른 사람들도 앞으로 2~3년 안에 그 단계에 도달하길 진심으로 바랍니다. 그렇게 된다면 포럼의 AI 답변은 악의적인 행위자나, 선의지만 더 나은 방법을 모르는 사람들로부터만 나올 것입니다. 어느 쪽이든 그 상황은 콘텐츠를 다루기 훨씬 쉽게 만들어 줍니다. 악의적인 행위자는 제재하고, 선의의 사람들을 교육하며, "명확하게 콘텐츠를 소화했으며, 게시하는 콘텐츠의 내용이 자신의 의견과 이해를 반영한다고 완전히 동의하고, 그 콘텐츠가 본인이 직접 생성했을 때보다 동등하거나 더 소화하기 쉬운 방식으로 자신의 의견을 표현하는 경우를 제외하고는 AI 콘텐츠가 금지된다"와 같은 모더레이션 정책을 세울 수 있기 때문입니다.
참고로, 이 관점이 정말 마음에 듭니다:
처음에는 바로 동의하지 않았지만, 잠시 생각해 보니 이 말이 틀리지 않다는 것을 완전히 이해할 수 있습니다.
여기 정말 훌륭한 답변들이 많네요. 이 특정 사례에서는 AI가 순수하게 전술적인(tactical) 용도로 유용하다고 생각합니다. 따라서 커뮤니티에 질문을 던지거나 회원들의 답변을 요청할 때는 '전술적’인 부분과 '감정적’인 부분을 구분하여 고려해야 합니다. 커뮤니티 구조에 따라 ‘방법론(How-to)’ 질문을 위한 전용 공간과 동료 간 연결을 위한 별도의 공간이 있을 수 있습니다. ‘방법론’ 공간은 운영자의 실수를 방지하기 위해 AI의 활용이 허용되거나 권장될 수 있는 곳입니다. 커뮤니티 공간 안에서 이러한 균형을 유지하는 것은 매우 훌륭하며, 회원들이 계속 돌아오게 만드는 핵심 요소이기도 합니다.
저는 Discourse가 이미 ‘how-to’ 섹션(ask.discourse.com)을 갖추고 있다고 생각합니다. 실제로 이는 사용자가 스스로 활용할 수 있는 Discourse 내 최고의 AI 도구입니다. 이를 통해 사용자는 누군가에게 대신 처리해 달라고 요청할 필요가 없습니다. 나머지 공간은 ‘피어(peer)’ 공간이어야 하며, 여기서 인간들이 상호작용하고, 답변을 제공하기보다 더 많은 질문을 하고, 여기저기서 진실을 조금씩 끄집어내기 위해 기꺼이 의견 충돌을 빚어야 합니다.
여기서 아름답게 표현된 대로 말하자면:
아마도 사람들은 특별한 상황이 발생했을 때 커뮤니티 공간에 찾아올 것입니다. 문제의 해결책이 발견되기 전에 많은 질문이 오갈 가능성이 큽니다. 예를 들어 어떤 버전을 사용하는지, 이것저것을 시도해 보았는지 등입니다. 때로는 다른 사용자들로부터 공감의 느낌을 받을 수 있다면 그것은 훌륭합니다. AI는 질문을 하지 않으며, 우리가 때때로 얼마나 멍청한지(예: Meta에서: Discourse를 다시 빌드해 보셨나요? 안전 모드를 시도해 보셨나요?)에 대한 직관도 없습니다. 아무리 듣기 좋더라도 AI의 공감은 분명히 가짜입니다.
따라서 AI 콘텐츠가 다수를 차지하는 응답을 처리하는 제 방식은 아마도 이를 금지하고, 사용자가 쉽게 스스로 문제를 해결할 수 있도록 AI 봇을 구현하는 것이 될 것입니다.
이것이 이 주제에 대해 게시하기에 적합한 곳인지 확신은 없지만, 찾을 수 있는 가장 가까운 주제입니다.
최근 AI가 생성한 게시글이 증가하는 추세입니다. 새로운 사용자들의 글은 복잡하고 텍스트가 길며, 문장이 조금 지나치게 잘 쓰여 있습니다. 결정적인 단서는 다른 Discourse 포럼에서 유사한 게시글이 발견된다는 점입니다.
제 추측은, 이전에 AI를 매우 거슬리게 사용하는 방식으로 인해 밴된 사용자가 최신 모델을 테스트하기 위해 돌아온 것이라는 것입니다. 이 새로운 게시글들은 이전 시도에 비해 훨씬 더 높은 품질을 보여줍니다. 다음 세대 AI 생성 게시글은 인간의 글과 구별하기가 너무 어려워져, 우리는 영원히 그 차이를 알 수 없을지도 모릅니다. 질문은, 만약 뭔가 할 수 있다면, 무엇을 할 수 있는가입니다.
따라서 제안 하나를 드리겠습니다. 아마도 나쁜 제안일 수도 있지만, 어쨌든 여기서 말씀드리겠습니다. 의심스러운 신규 사용자에게 대응하기 위해 우리만의 AI 응답자를 배치해야 합니다. 이 AI는 명백한 질문에 답하고, 사용자가 인간인지 테스트하는 역할을 수행해야 합니다. 신규 사용자에게 테스트받고 있다는 것이 드러나지 않도록 일종의 샌드박스 환경에서 이루어져야 할 수도 있습니다.
저신뢰도 사용자의 새 토픽 게시글을 에이전트를 통해 분석하여 AI로 생성되었을 가능성이 있는지 여부를 표시하고, 사용자에게는 그 이유를 설명하고 어떻게 해야 하는지 제안하는 정중한 메시지를 보냅니다. 그 사이에는 우리가 해당 표시를 무시하거나 게시글을 삭제할 수 있습니다.
이 방식은 작동하지만, 현실은 사람들이 단순히 대화를 잘라서 포럼에 붙여넣는 경우가 많다는 것입니다. 이는 원치 않는 현상입니다.
결국 AI가 단어의 벽을 요약하고, 인간이 단순한 대리인으로 전락하는 결과를 낳습니다.
더 나은 방법은 제로 톨러런스 정책을 적용하는 것입니다. 언어 문제는 예외로 할 수 있지만, 자동 번역이 있으므로 더 이상 필요하지 않습니다. 또한 정책은 가시적이어야 합니다. 이 같은 모더레이션이 뒤에서만 이루어진다면 인식 자체가 사라지기 때문입니다.
명확한 관리 정책의 필요성에 대해서는 전적으로 동의합니다. 제가 설명하려는 문제는 누군가 AI를 이용해 자신의 주장을 대신하게 하거나, AI를 관리하는 사람이 AI를 대리로 사용하여 인간 사용자를 흉내 내는 경우입니다. AI 사용의 흔적은 있지만, 이를 탐지하는 데 걸리는 시간이 지난해보다 길어졌고, 우리가 대응하기 전에 더 많은 사람들을 속이고 있습니다. 내년 이맘때쯤이면 상황이 더 악화될 것입니다. 결국 인간 관리자는 이 싸움에서 지게 될 것입니다.
제안된 XKCD#810 해결책은 AI를 이용해 AI/스팸과 상호작용하도록 하는 것입니다. 이를 통해 AI가 머무를 수 있으려면 건설적으로 참여하도록 강제하는 것입니다. 여전히 AI 관리를 올바른 방향으로 유지하기 위해 인간 관리자(또는 신뢰할 수 있는 사용자)가 필요하지만, 트롤과 스팸러는 문제를 일으키는 대신 적극적으로 도움을 주는 방식으로 제한됩니다.
가장 큰 문제를 일으키는 사람들이 신규 사용자라는 것을 알 수 있습니다. 그들은 관련 주제를 찾는 데 전혀 노력을 하지 않고, (생성/처리된) 대량의 텍스트를 복사해서 작성기에 붙여넣은 후 바로 새 주제를 열기만 합니다.
이 패턴에 영향을 미치기 위해, 저는 신규 사용자 신뢰 수준에 대해 읽는 시간을 확인하는 커스텀 테마 구성 요소를 만들었습니다. 읽는 시간이 5분 미만이면 새 주제 버튼을 잠그고, 왜 그런지 설명하는 적절한 도구 팁을 표시합니다. 버튼을 클릭하면 커뮤니티 가이드라인 페이지가 열립니다. 신규 사용자는 기존 주제에 댓글을 추가할 수 있습니다.
이것이 긍정적인 효과를 가져다주기를 바랍니다. 적어도 스팸 작성자들도 조금 더 노력을 기울여야 할 테니까요
보통 실제 장벽은 특정 분야의 언어와 전문성입니다. 그래서 사람들은 이러한 격차를 메우기 위해 지원을 활용합니다. AI는 바로 이런 격차 해소 도구입니다.