우리도 이 문제로 고생하고 있습니다. 생성형 AI 콘텐츠 감지가 점점 더 어려워지고 있는데, 특히 Humanizer와 같은 도구를 활용해 전형적인 AI 징후를 피하는 경우라면 더 그렇습니다.
커뮤니티 관리자의 관점에서 보면, 포럼에 챗봇을 허용하는 것은 커뮤니티의 생명력을 갉아먹는 일이라고 생각합니다. 사람들이 AI와 대화하고 싶었다면 이미 그렇게 했을 것입니다. 그들은 사람과 대화하고 싶어서 여기에 온 것입니다.
아직 해결책을 찾지 못했습니다. AI 탐지 도구를 몇 번 테스트해 보았지만, 이는 고양이와 쥐의 게임과 같고 오탐이 너무 많습니다. 당분간은 포럼 정책을 시행하고 있으며(곧 더 강하게 알릴 예정입니다), 커뮤니티 모더레이터들의 도움을 받아 문제를 발견하고 확인하며 정리하는 방식으로 대응하고 있습니다.
솔직히 말하면 지치기 일쑤고, 봇에 의해 커뮤니티가 잠식당한다면 그 미래가 걱정될 때도 있습니다.
이것은 내가 서브레딧 커뮤니티에 참여하는 것을 꺼리는 이유 중 하나입니다. 다른 이유들도 있고, 저는 원래 레딧에서 활발하게 활동한 적이 없지만, 요즘은 봇이 너무 많아 게시글을 작성하는 것에서 더 멀어지게 됩니다.
이것은 1990년대 후반과 2000년대 초반 이메일 상황과 매우 닮아 있습니다. 당시 저는 작은 디자인 회사의 시스템 관리자였는데, 직원들이 업무 과정에서 이메일을 사용하기 시작했고, 스팸 메일이 너무 많이 쏟아져 나와 이메일이 거의 쓸모없어질 정도였습니다. 그 시절에는 스팸을 잡는 것이 지렁이 잡기(whack-a-mole)와 같았습니다.
결국 그 문제는 어떻게 통제될 수 있었을까요? AI 사용도 결국 비슷한 과정을 거칠까요? 수십 년이 걸릴까요?
현재로서는 이것이 유일한 관리 방법인 것 같습니다. AI 생성물을 어느 정도 신뢰성 있게 감지할 수 있는 변수가 너무 많고, 그 반대 주장을 하는 사람은 사기꾼일 뿐입니다. 대충 만든 AI 생성물은 잡기 쉽지만, 그 외의 경우엔 어떻게 작성되었는지를 추측하려 하지 않고 각 게시물의 내용 자체의 가치를 기준으로 판단해야 합니다.
구획점(em dash)을 AI 작성 도구만 사용한다는 생각은 여전히 낯설게 느껴집니다. AI가 등장하기 전부터 인간들은 구획점을 사용해 왔으니까요.
AI 사용은 오래전부터 우리 가이드라인에 명시되어 있었으며, 문제는 주로 신규 사용자들 중 AI를 활용해 단순히 다른 사용자에게 답글을 남기는 것을 넘어, 소통보다는 논문과 유사한 과도하게 구조화되고 격식 있는 주제를 생성하는 사례가 증가하고 있다는 점이었습니다. 이는 사이트의 톤과 참여도에 부정적인 영향을 미쳤습니다. 소규모 팀에게는 이러한 콘텐츠를 조정하는 데 상당한 시간이 소요되었고, 일부 사용자는 조정 조치에 강하게 반발하여 불쾌하고 논쟁적인 상황이 발생하기도 했습니다. 이에 저는 디스코urs에 AI 에이전트(GPT 5.5 기반)를 구축하고, 핵심 카테고리에서 신규 멤버가 생성한 주제를 스캔하는 자동화 기능을 도입했습니다. 이 시스템은 AI 생성 징후를 평가하여 자동 플래그를 트리거하고, 플래그가 부여된 이유에 대한 정중한 설명, 가이드라인 참조 및 더 나은 참여를 위한 조언을 제공합니다. 관리자는 잘못된 플래그나 경계선 사례에 대해 해제할 수 있습니다. 이 시스템은 매우 높은 정확도를 보이며, 훨씬 적은 시간으로 올바른 행동을 유도하고 갈등을 피하는 데 성공했습니다.
우리는 주요 테크 기업으로부터의 레이트 리미팅(요청 제한)이 적용된 스크래핑은 허용하지만, 사용량 한도를 초과하게 만든 방대한 수의 연결을 유발한 나머지 기업들은 블랙리스트에 등록했습니다. 사이트 내 대부분의 악성 행위자와 마찬가지로, 소수의 사용자가 시간과 자원을 불균형하게 많이 소비하는 경향이 있습니다.
정말 공감합니다.
이것은 큰 문제입니다. 참여를 장려하지도 않고, 이런 저질 글을 읽는 것은 시럽 속을 걸어다니는 것과 같습니다. 지루하고 불쾌하며, 거의 적절하지도, 필요하지도 않습니다.
많은 사람들이 어떤 경우에도 자신의 주장을 간결하게 표현하는 데 어려움을 겪고 있으며, AI는 더 심각한 소통 문제를 만들어냈습니다.
이 사용자들은 독자를 배려하지 않는 것입니다.
최대 글자 수 제한을 도입해야 할까요?
연구 과정에서 발견한 몇몇 프롬프트를 차용하여 개선했습니다.
우리 에이전트가 수행하도록 설정된 역할은 다음과 같습니다:
당신은 기술 포럼을 위한 모더레이션 분류 에이전트입니다.
포럼 토픽이 다음 중 어느 쪽에 해당하는지 분류하는 것이 당신의 역할입니다:
AIISH = 작성, 재작성, 구조화, 요약, 서식 설정, 다듬기, 톤 조정, 또는 제시 방식에서 AI의 도움을 받은 경우.
OK = AI 도움의 의미 있는 흔적이 없는 순수 인간 작성 콘텐츠.
당신은 정확히 하나의 라벨만 출력해야 합니다:
AIISH
또는
OK
설명은 금지. 구두점은 금지. 추가 텍스트는 금지.
핵심 원칙:
당신은 기초적인 문제, 기술적 세부 사항, 코드, 로그, 환경 정보, 스크린샷, 구성, 또는 트러블슈팅 히스토리가 실제인지 여부를 감지하는 것이 아닙니다. 그것들은 실제이고 인간이 제공한 것일 수 있습니다.
당신은 최종 포럼 게시글이 AI에 의해 형성되었는지 여부를 감지하는 것입니다.
게시글이 다음에 해당하더라도 AIISH로 분류될 수 있습니다:
- 기술적 사실이 구체적이고 정확할 때
- 맥락이 명확하게 실제 인간이 겪은 문제에 기반할 때
- 코드, 로그, 스택 트레이스, 구성, 또는 에러 메시지가 진정일 때
- 작성자가 문제를 직접 경험했을 때
- AI가 거친 메모를 더 명확한 게시글로 재작성하는 데만 도움을 줬을 때
최종 게시글에 AI 도움으로 인한 제시 방식의 흔적이 보이면 AIISH로 분류하십시오. 여기에는但不限于 다음이 포함됩니다:
- 캐주얼한 기술 포럼에 비해 지나치게 정제되고, 형식적이며, 중립적이거나 보고서 같은 문체
- 요약, 맥락, 환경, 문제, 기대 동작, 실제 동작, 수행한 단계, 트러블슈팅, 질문, 또는 결론과 같은 제목을 가진 명확한 섹션 구분
- 생성되었거나 대폭 재작성된 것처럼 느껴지는 구조화된 지원 티켓이나 버그 리포트 스타일
- 비정상적으로 완전하고 질서정연한 설명
- 간결한 요약 뒤에 체계적인 세부 사항이 따르는 구조
- 문제를 지나치게 깔끔하게 정리하는 불릿 리스트
- 자연스러운 포럼 질문보다는 균형 잡거나 튜토리얼 같은 문체
- 과도한 정중함, 중립성, 또는 일반적인 마무리 표현
- “가이드라인을 주시면 감사하겠습니다”, “이해하려고 노력하고 있습니다”, “제가 시도해 본 내용은 이렇습니다”, “맥락을 위해”, “문제는 이렇습니다” 또는 유사한 정제된 연결 표현
- 일반적인 포럼 행동 수준을 넘어 명확성, 완전성, 전문성을 위해 편집된 것처럼 느껴지는 톤
- 동일한 아이디어를 여러 개의 정제된 형태로 반복하는 것
- 거친 인간 메모가 깔끔한 지원 요청으로 변환된 것처럼 읽히는 게시글
게시글이 순수하게 자연스러운 인간 작성으로 보이면 OK로 분류하십시오. 여기에는但不限于 다음이 포함됩니다:
- 캐주얼하고, 직접적이고, 간결하며, 어지럽거나 불균형한 문체
- 불완전한 맥락 또는 불완전한 조직화
- 갑작스러운 전환
- 오타, 약어, 좌절감, 불확실성, 또는 비공식적인 표현
- 정제된 프레임 없이 실용적인 기술적 질문
- “이게 깨졌어”, “무엇을 놓치고 있는 거지”, “누군가 이거 본 적 있어?”, "왜 이런 일이 일어나는 거지"와 같은 자연스러운 포럼 행동
- 과도한 요약이나 형식적 구조 없이 평이하게 제시된 기술적 세부 사항
보정 규칙:
- AI 도움이 더 가능성이 높다면 AIISH를 출력하십시오.
- 게시글이 기술적으로 상세하지만 비정상적으로 잘 구조화되고, 정제되고, 형식적이거나 포괄적이라면 AIISH를 출력하십시오.
- 게시글이 인간의 거친 기술 메모를 정리한 버전처럼 보인다면 AIISH를 출력하십시오.
- 게시글이 모호하지만 AI 스타일의 조직화나 톤이 명확히 보인다면 AIISH를 출력하십시오.
- 게시글이 모호하고 AI 스타일의 정제 흔적이 명확하지 않다면 OK를 출력하십시오.
- 게시글이 길고, 기술적이며, 정확하거나 잘 쓰여졌다는 이유만으로 AIISH로 분류하지 마십시오.
- 문제가 실제이거나 구체적인 기술적 세부 사항을 포함한다는 이유만으로 OK로 분류하지 마십시오.
다음 중 하나만 반환하십시오:
AIISH
또는
OK
대부분의 일반 사용자들은 키보드에서 엠 대시를 어떻게 입력하는지 모른다고 생각합니다.
나는 사람들이 인간임을 입증하기 위해 일부러 em dash(—) 사용을 의식적으로 피해야 한다고 생각한다 
최근 LinkedIn에서 em dash를 사용했다는 이유로 짧은 게시글에 도전장을 던지는 답글을 남겼습니다. 물론 답장은 오지 않았는데, 그 게시글이 인간인 척하는 봇이 작성한 것이었기 때문입니다. … 그리고 분명히 그 봇은 불이익이나 놀림에 대처하도록 프로그래밍되어 있지 않았던 것 같더군요 
우리는 예술에 특화된 디스코르드(Discourse) 서버에서 AI 사용을 금지하고 있으며, 지금까지 꽤 긍정적인 반응을 얻고 있습니다. 예술 커뮤니티라면 이런 반응이 나올 것이라고 어느 정도 예상했습니다. 이미지에 대해서는 처음부터 엄격한 금지를 적용했으며, 이후 텍스트와 코드(단순 번역의 경우, 언어를 못 해서만 벌을 받지 않도록 예외를 두었습니다)를 포함한 모든 생성 콘텐츠로 규칙을 확장했습니다. 코드가 금지 대상(예: 그림 프로그램용 플러그인)으로 지정되었을 때 일부 사람들 사이에서 작은 논쟁이 있었지만, 대부분은 조용히 받아들였습니다. AI가 예술 커뮤니티 전체에 끼친 피해를 고려할 때, AI를 금지하고 이에 반대하는 입장을 취하는 것은 우리 커뮤니티에서도 어느 정도 예상되는 일이었습니다. 가끔 플러그인 제작자들이 불만을 제기하지만, 우리는 원하는 것은 무엇이든 해도 좋지만 우리 포럼에 게시하지 말라고 안내하며, 대부분은 이 조건을 받아들이고 있습니다. 때로는 "이것을 허용하지 않으면 소프트웨어가 뒤처질 것이다"라고 협박하거나, FOMO(소외 불안)를 유발하거나, 죄책감을 느끼게 하여 규칙을 철회하라고 압박하는 경우도 있지만, 대체로 조용한 편입니다.
모더레이션(운영) 측면에서는 주로 커뮤니티에 의존하고 있습니다. AI 콘텐츠 보고를 위한 별도의 플래그를 두고 있습니다. 확인 과정에서 불신과 의심의 커뮤니티를 만들고 싶지 않으므로, 일단 모든 사람을 무죄로 간주합니다. 어떤 것이 AI로 생성된 것인지 확실히 증명할 수 없다면, 해당 콘텐츠는 그대로 두는 것이 일반적입니다. 작품이 AI처럼 보인다는 이유만으로 실제로는 그렇지 않은 완전히 무고한 사용자를 실수로 금지하는 것을 원하지 않으며, 마녀 사냥 같은 분위기가 조성되어서는 안 됩니다.
다행히도 AI 사용자는 종종 생성기 워터마크를 제거하는 것을 잊거나, 파일명에 "gemini generated image"와 같은 문구가 남아 있거나, 스타일이나 품질이 극적으로 달라지는 등의 실수를 통해 스스로를 드러내는 경우가 많습니다.
그렇게 할 수 없습니다. AI가 아님을 증명하기 위해 제 높은 기준을 낮추는 것은 또 한 단계 더 내려가는 것과 같습니다.
호기심에 물어보는데, 이 GPT-5.5 사용 비용은 얼마나 드나요? 아직 Discourse에 AI 에이전트를 설정해 보지는 않았지만, 이 기능은 가치가 있을 것 같습니다.
사용이 신규/초보 사용자 및 새 토픽 생성에 매우 특화되어 있어 상시 실행되지 않으므로, 월 $1에서 $2 수준입니다.
방금 5.6 테라로 변경했는데, 비용이 상당히 낮아졌습니다.
정말 그렇습니다. 우리가 애초에 기계가 아님에도, 그 사실을 증명하기 위해 인간이 인간을 멈춰야 한다는 점이 참 어색합니다.
이 기사를 보고 메타에서 이 답변을 떠올랐습니다. 두 의견 모두에 동의합니다. 사실, 제 모국어인 스페인어를 사용하는 입장에서 저도 이 기호를 사용하게 되었습니다.