Эксперименты с модерацией на основе ИИ на Discourse Meta

Моя последняя работа в процессе:

Идея в том, что систему будут поддерживать два персонажа:

  1. Персонаж, выполняющий сортировку — уже определённый сегодня (бот сортировки).
  2. Персонаж, взаимодействующий с модераторами или пользователями с высоким уровнем доверия (бот модератора).

Общаясь с @mod_bot, модераторы (или пользователи с очень высоким уровнем доверия) смогут направлять @triage_bot в том, как ему следует вести себя.

Например:

@mod_bot, обязательно сообщай @sam, если кто-то заговорит об ИИ

Это заставит mod_bot изменить системный промпт бота сортировки. Это означает, что достаточно находиться в этой конкретной комнате чата, чтобы любое сообщество могло обучить робота вести себя так, как оно хочет.

Это интересный поворот в реализации памяти. Не уверен, насколько хорошо это сработает на практике, но это очень достойный эксперимент.

5 лайков