저는 1만 명 이상의 회원을 가진 포럼의 관리자 중 한 명입니다. 최근 일부 사용자가 게시글 답변에 AI를 과도하게 활용하기 시작했다는 사실을 알게 되었습니다. 사용자가 더 적극적으로 참여하고 도움을 주려는 점은 좋은 일이지만, AI 챗봇의 답변은 매우 자신감 있어 보이나 부정확한 경우가 많아 다른 사용자를 혼란스럽게 할 수 있습니다. 우리는 AI 사용을 금지하기보다는, 사용 시 이를 명시하도록 장려할 계획입니다. 이렇게 하면 다른 사용자(그리고 포럼 콘텐츠로 학습된 LLM)가 게시글 내용의 신뢰도를 판단하는 데 도움이 될 수 있기 때문입니다.
이에 따라 새 답변 게시글마다 “콘텐츠 출처” 선택기를 추가하고자 합니다. 선택 항목은 다음과 같습니다:
사람이 작성함
AI 보조 (검토 및 편집됨)
AI 생성 (간단히 검토됨)
많은 다른 포럼에서도 비슷한 기능이 필요할 것으로 생각되므로, 표준 기능이나 플러그인으로 추가될 수 있기를 희망합니다. 만약 그렇게 되지 않는다면, 우리가 호스팅하는 디스코र्स(Discourse) 인스턴스에서 이를 설정하는 방법에 대한 조언을 주시면 좋겠습니다.
저는 개발자가 아니지만, 태그를 사용하지 않는 방식은 Custom Wizard 플러그인과 같은 플러그인들이 사용하는 post_custom_fields 테이블을 활용하게 될 것으로 생각합니다. 사용자 정의 게시물 필드를 UI(선택, 표시, 검색/필터링)에 통합하는 것은 꽤 상당한 규모의 플러그인 프로젝트가 될 것 같습니다.
저도 사용자를 신뢰하는 편이지만, AI 사용이 명백한데도 이를 밝히지 않는 경우라면 모더레이터가 해당 게시물에 적절한 표시를 할 수 있을 것입니다.
게시물을 AI 보조 또는 AI 생성으로 표시하도록 제안하는 것은 편리한 기능이 될 수 있지만, 실현 가능한지 확신이 서지 않으며 필수적인 기능도 아닙니다. 기본적으로 선택기가 초기화되지 않도록 설정하여 사용자가 콘텐츠 출처를 명시적으로 설정하도록 강제할 수 있다면, 사용자가 이에 대해 생각하게 만들 수 있을 것입니다.
태그를 추가하는 것을 잊기 쉽습니다(사용자에게 더 자주 사용을 상기시켜야 하지만), 그래도 작동할 수 있을 것입니다.
좋은 접근법인 것 같습니다. 이렇게 설정하려면 얼마나 많은 작업이 필요할까요? 이것이 내장 기능이나 공식 플러그인으로 추가될 가능성이 있다고 생각하시나요?
Facebook에서 온 사용자들에게 이 방법들을 올바르게 적용하도록 교육하는 것은 불가능하지는 않더라도 적어도 매우 어렵습니다. 그래서 저는 AI 생성 콘텐츠가 어떤 방식으로든 표시되어야 한다는 것을 요구하는 것으로 결정했습니다. 콘텐츠 내부에 가시적인 표시기가 있고 AI 자료명이 명확하게 분리되어만 있다면 저는 만족합니다.
저는 태그를 사용해보기도 했지만, 매우 빠르게 아무런 반응을 이끌어내지 못한다는 것을 깨달았습니다. 또한 저는 태그를 콘텐츠 분류에 사용하길 원하는데, 제 포럼에서 AI와 관련된 모든 콘텐츠를 찾으려는 사람이 있을 것이라고 상상하기 어렵습니다. 특히 AI 사용이 시간이 지남에 따라 증가할 가능성이 높기 때문입니다. 심지어 콘텐츠가 인간이 만든 것임을(단순히 이모지가 아니라, 그러한 웹사이트나 포럼이 이미 존재하므로) 표시하기 위해 태그가 필요한 시점에 이를 수도 있습니다.
게시글 수가 적은 포럼이라 거의 모든 글을 읽습니다. 그리고 модератор들은 의심되는 사례를 표시할 수 있고, 실제로 그렇게 합니다. AI가 많이 사용되었거나 복사&붙여넣기한 것인지 매번 명확하지는 않아요. 자동으로 어떻게 감지하는지 모르겠으니, 결국 이웃 감시(neighbor watch)에 의존하는 거죠
조금 벗어난 이야기지만, 저희가 운영하는 (Discourse가 아닌) 포럼에는 생성형 AI에 관한 모든 것, 즉 장단점을 논의하는 주제가 있습니다.
열정적인 단골 사용자가 약간 뜨거워진 토론에서 다른 회원들의 주장을 반박하고 이의를 제기하는, 매우 논쟁적인 메시지를 게시하기 시작했습니다.
그의 후반부 게시물 작성 방식이 그 사실을 드러냈습니다. 특히, 4개의 항목이 모두 "그건 아니다… 이건…"이라는 구조를 사용한 한 게시물이 결정적이었습니다.
그는 지적을 받았고, "최근 두 메시지"를 작성할 때 AI를 사용했다고 인정했습니다. 또한 AI에게 자신의 의견을 반영하도록 지시했기 때문에 문제가 되지 않는다고 설명했습니다. 그리고 만약 사람들이 그의 주장을 반박할 수 없다면, 그의 게시물이 AI에 의해 작성되었든 아니든 그것은 그들이 틀렸음을 의미한다고 주장했습니다.
말할 것도 없이, 다른 사용자들은 AI와 논쟁하느라 시간과 에너지를 낭비하고 있었다는 사실을 깨달았을 때 상당히 화가 났습니다.
저의 Facebook 커뮤니티(Discourse로 이식하려는 커뮤니티)에서도 그런 현상이 나타나기 시작했습니다. 관계가 우리 업무의 핵심인 지원 커뮤니티에서, 사람들이 AI가 뱉어낸 쓰레기(AI slop)를 대부분 자신의 답변인 것처럼 포장하는 것은 정말로 짜증나는 일입니다. 실제로 AI와 상호작용하고 싶어 하는 사람들을 위해 NotebookLM과 모든 문서를 연동한 전용 챗봇(현재는 개념 증명 단계)을 설정해 두었습니다.
모든 커뮤니티가 진정성과 AI 침입에 대해 동일한 필요성을 가지고 있지는 않다는 점은 이해합니다. 하지만 제 커뮤니티에서는 확고하게 "AI 사용 금지. 만약 챗봇이 말한 내용을 인용하고 싶다면, 인용 부호와 도입 문구를 사용하여 인용하되, 솔직히 그렇게 하고 싶지는 않을 것입니다"라는 입장을 고수하고 있습니다.
@Canapin의 사례가 보여주듯, 사람들이 게시글을 쓴 사람이 AI가 뱉어낸 내용을 가려내는 인지적 부담을 자신들에게 전가하고 있다는 사실을 알게 되면 매우 화를 냅니다.
(참고로: 저는 AI/LLM과 그 가능성에 대해 매우 열정적이고 실제로도 사용하지만, 누군가와 대화를 나누고 있을 때 제 동의 없이 어느 순간부터는 그 사람의 이모, 개, 또는 챗봇과 대화하고 있다는 사실을 깨닫고 싶지는 않습니다.)
이러한 유형의 라벨링에 매우 찬성합니다. 투명성은 중요합니다. AI는 단순한 철자 검사기나 예측 텍스트보다 더 많은 의미를 지닙니다.
추가로: 이러한 라벨링이 도입된다면, AI 생성임을 매우 명확하게 알 수 있도록 게시물의 스타일을 다르게 설정할 수 있는 방식으로 이루어져야 합니다. 예를 들어, 다른 글꼴, 배경색, 색상 등을 사용하는 것 등이 있습니다.
