Discourse Meta에서 AI 기반 모더레이션 실험

현재 진행 중인 최신 작업은 다음과 같습니다:

제 아이디어는 이 시스템을 뒷받침하는 두 가지 페르소나(persona)를 도입하는 것입니다:

  1. 트리아지(triage)를 수행하는 페르소나 - 이미 오늘 정의되어 있는 것(트리아지 봇)
  2. 모더레이터/고신뢰도(high trust) 사용자와 상호작용하는 페르소나(모드 봇)

@mod_bot과 채팅을 통해 모더레이터(또는 매우 높은 신뢰도의 사용자)들은 @triage_bot이 어떻게 행동해야 하는지 지시할 수 있게 됩니다.

예를 들어:

@mod_bot, 누군가 AI에 대해 이야기하면 @sam에게 꼭 알려줘

이것은 mod_bot이 triage bot의 시스템 프롬프트를 수정하도록 트리거합니다. 즉, 이 특정 채팅방에 있는 것만으로도 어떤 커뮤니티든 로봇을 원하는 대로 행동하도록 훈련시킬 수 있게 됩니다.

메모리를 구현하는 방법에 대한 흥미로운 변화입니다. 실제로 얼마나 잘 작동할지는 확실하지 않지만, 매우 가치 있는 실험입니다.

5개의 좋아요