최근 AI를 사용하기 시작해서 설정을 놓치고 있을 가능성이 높습니다.
Google Perspective API가 곧 퇴역할 예정이라, 늘 미뤄왔던 AI 구현을 진행했습니다.
스팸과 독성(Toxicity) 감지 모두 작동하고 있지만, 동일한 게시물이 스팸과 독성으로 모두 표시되고 있습니다. 이것이 정상적이고 예상되는 동작인가요?
명명법 피드백: AI 적용 플래그 컨텍스트에서 "Flag rejected"라는 표현이 혼란스럽습니다. 게시물이 거부되어 거부로 플래그가 지정된 건지, 아니면 초기 AI 플래그가 거부된 건지 알 수 없습니다.
Spam 감지자 페르소나(사전 구성됨)와 독성(Toxicity) 페르소나를 함께 사용하는 또 다른 예를 추가합니다.
해당 게시글은 스팸과 독성 모두로 인식되어, 응답 옵션과 결과가 매우 다른 두 개의 플래그 항목이 생성됩니다.
질문: 대부분의 비공개 외 포럼에서는 스팸과 독성 게시글 방지 기능이 모두 필요할 가능성이 높으므로, 스팸과 독성 페르소나를 하나의 사전 구성 페르소나로 통합하는 것이 타당한가요?
한 게시글, 두 개의 플래그
이 게시글은 스팸인가요? 예
이 게시글은 스팸인가요? 아니오
이 게시글을 승인할까요? 옵션 없이 예 또는 아니오
샘(Sam)이 이전에 비슷한 제안을 했었는데 제가 놓쳤던 것 같습니다.
이 기능에 대해 더 많은 시간을 보내고 고민해 본 결과, Toxicity Triage Persona에 적절한 조정을 가할 수 있다면 이중 플래깅, 스팸 및 독성(Toxicity) 문제가 완화될 수 있을 것 같습니다. 제 경험상 독성은 스팸보다 신규 회원이 아닌 기존 회원에게서 더 자주 발생하는 경향이 있습니다.
이러한 맥락에서 아래 내용을 검토할 필요가 있다고 생각합니다.
또한, 스팸과 독성을 결합하거나 독성을 스팸 모듈과 유사하게 포함하는 것은 합리적인 기능 요청 및 토론 주제라고 생각하여 Topics tagged ai 로 이동합니다.
