Discourse Meta에서 AI 기반 모더레이션 실험

일주일 동안 글을 쓰지 못했습니다. 매일 제 작은 채팅 창을 들여다보고, 하루에 한두 번은 도움이 되는 답변을 꾸준히 받으면서도 말입니다.

여기서 지체된 이유는 이 꽤 큰 변경 사항을 처리해야 했기 때문입니다.

이것은 Discourse AI에 미묘하지만 결정적인 개선을 제공합니다.

컨텍스트를 구성하는 방식 때문에, 모더레이션 봇이 완전히 관련 없는 이미지들에 대해 언급하는 것을 자주 목격했습니다. 이번 변경 사항은 텍스트와 이미지가 올바른 순서로 배치된 혼합 콘텐츠를 제시할 수 있게 해줍니다.

즉, LLM이 더 이상 혼란을 겪지 않게 된 것입니다.

다음 단계는?

  1. 자동화에서 게시글 편집이 "안정"된 후 규칙을 호출할 방법이 없습니다. LLM 호출은 비용이 들 수 있으므로, 사람들이 오타를 수정하는 것만으로 무언가를 반복적으로 스캔하고 싶지 않습니다. 이것이 여기에서 필요한지 확실하지 않지만, 게시글이 새로운 형태로 안정되면 자동화를 트리거할 가능성을 허용하고 싶습니다.
  2. 프롬프트 엔지니어링 - 현재 프롬프트는 괜찮지만 제 취향에는 약간 너무 강합니다. 조금씩 신경에 거슬려서, 톤을 부드럽게 조정할 수도 있습니다.
  3. 개선된 컨텍스트 - 정말로 신경 쓰이는 것 중 하나는 자동화가 이제 사용자 신뢰도를 인식하지 못한다는 점입니다. 커뮤니티 내에는 다른 사용자보다 훨씬 더 신뢰받는 사용자들(예: 모더레이터)이 있습니다. 이 부분을 어떻게 개선할 수 있을지 확인해 보고 싶습니다.
  4. 빠른 반복을 위해 게시글 배치(batch)로 자동화를 실행할 수 있는 기능.
  5. 더 많은 것들이 나올 것이라 확신합니다.
8개의 좋아요