아, 그러니까 여기에서 좀 더 구체적으로, 기술적인 세부 사항까지 들어가면 다음과 같은 점들이 있네요.
- 채팅에서
@gpt3.5-bot을 멘션하면 우선순위가 가장 높은 페르소나가 선택됩니다… 보통은 포럼 헬퍼가 되겠지만, 이 부분은 변경할 수 있습니다. - 또한 컨텍스트(예: 이전 채팅 메시지 1000토큰)를 제공하여 정렬되도록 해야 합니다. (이것이 설정 가능한가요? 페르소나별로 설정 가능한가요?)
- 채팅에서
@mention할 수 있는 사용자 그룹을 명확히 제한해야 하므로, 이를 위한 사이트 설정이 필요합니다. - 감사 가능성(auditability)에 대해 생각해봐야 합니다. 여기에서 쉬운 최소한의 방법은 데이터 탐색기 쿼리를 제공하는 것입니다.
- 최근 채팅 리팩토링 덕분에 봇과 "무제한"으로 새로운 토론을 열 수 있으므로, 이 부분을 활용하여 무언가를 설계할 수 있습니다.
- 채팅에서 @mention을 허용한다면… 왜 같은 그룹에 대한 포럼 게시물에서도 허용하지 않나요? 다른 그룹에는 어떻게 할까요?
이 모든 것을 고려하면… 제 V0 제안은 다음과 같습니다:
- 사이트 설정
ai_bot_chat_enabled_groups추가 - 당장은 컨텍스트 1000토큰을 하드코딩하고 - 우선순위가 가장 높은 페르소나를 선택
- V0에서는
@mention지원만 수행
V1
- 스트리밍 및 취소 지원
V2
- "AI 봇과의 그룹 DM"에 대한 선택적 지원 추가
- 이 모든 것을 쉽게 찾을 수 있는 멋진 UI를 갖추고, 이 작업을 수행하는 데 드는 오버헤드를 최소화하도록 보장합니다.
V3
-
선택적으로 페르소나가 전용 아바타를 가진 전용 사용자를 스테이징하도록 허용합니다. 그러면 채팅에서 여러 봇과 상호작용할 수 있습니다. 이 모드에서는 페르소나에 사용자/모델도 선택됩니다.
-
일부 설정을 페르소나 UI로 이동합니다 … 어떤 페르소나가 채팅에 활성화되어 있나요?
V4
- 한도에 대해 생각해봅니다 - 사용자당 일일 최대 토큰 사용량 같은 것들
V5
- 이 중 일부 기능을 표준 토픽에도 추가하는 것에 대해 생각해봅니다 - (사이트 설정 등이 필요함) 예:
@summary_bot 이 토픽을 지금까지 요약해줘
전체적으로 이 아이디어들을 많이 좋아하지만, 이것들을 우리 로드맵에 어떻게 맞춰갈지 알아내야 합니다.