내가 하는 일과 비슷해서, 여기 관련 토픽 중 어딘가에 올린 적이 있습니다.
AI가 생성하거나 처리한 게시글에는 그것이 드러나는 특징이 항상 있습니다.
저신뢰도 사용자의 새 토픽 게시글을 에이전트를 통해 분석하여 AI로 생성되었을 가능성이 있는지 여부를 표시하고, 사용자에게는 그 이유를 설명하고 어떻게 해야 하는지 제안하는 정중한 메시지를 보냅니다. 그 사이에는 우리가 해당 표시를 무시하거나 게시글을 삭제할 수 있습니다.
이 방식은 작동하지만, 현실은 사람들이 단순히 대화를 잘라서 포럼에 붙여넣는 경우가 많다는 것입니다. 이는 원치 않는 현상입니다.
결국 AI가 단어의 벽을 요약하고, 인간이 단순한 대리인으로 전락하는 결과를 낳습니다.
더 나은 방법은 제로 톨러런스 정책을 적용하는 것입니다. 언어 문제는 예외로 할 수 있지만, 자동 번역이 있으므로 더 이상 필요하지 않습니다. 또한 정책은 가시적이어야 합니다. 이 같은 모더레이션이 뒤에서만 이루어진다면 인식 자체가 사라지기 때문입니다.