채팅 기능에 AI 봇이 있으면 좋겠습니다. 저희 사용자는 채팅을 많이 이용하고 있습니다.
어떤 방식으로 작동하길 바라는지 좀 더 자세히 설명해 주시겠어요?
2개의 좋아요
내 사용자들은 이렇게 사용할 거야
- 수의사가 개는 햇빛에서 비타민 D를 얻을 수 있다고 했어
- 나랑은 생각이 좀 다른데… 다들 뉴트리슈티컬을 써야 한다고 하더라
- 정말?
@helpful-bot안녕, 개는 햇빛에서 비타민 D를 얻을 수 있어?
이런 식으로 말이지. 그래서 다른 페르소나가 필요 없어. 하지만 나한테는 그건 치명적인 단점이 아니야. 채널에서 다른 챗봇을 쓰고 있거든 
4개의 좋아요
의미가 모호해서 죄송합니다. 저희는 사용자가 일반 채팅 채널에서 @botname을 입력하여 봇을 호출할 수 있기를 원합니다. 또한, 해당 그룹에 속한 사용자는 봇에게 직접 메시지를 보낼 수 있어야 합니다. 아래 스크린샷과 같이요;
3개의 좋아요
아, 그러니까 여기에서 좀 더 구체적으로, 기술적인 세부 사항까지 들어가면 다음과 같은 점들이 있네요.
- 채팅에서
@gpt3.5-bot을 멘션하면 우선순위가 가장 높은 페르소나가 선택됩니다… 보통은 포럼 헬퍼가 되겠지만, 이 부분은 변경할 수 있습니다. - 또한 컨텍스트(예: 이전 채팅 메시지 1000토큰)를 제공하여 정렬되도록 해야 합니다. (이것이 설정 가능한가요? 페르소나별로 설정 가능한가요?)
- 채팅에서
@mention할 수 있는 사용자 그룹을 명확히 제한해야 하므로, 이를 위한 사이트 설정이 필요합니다. - 감사 가능성(auditability)에 대해 생각해봐야 합니다. 여기에서 쉬운 최소한의 방법은 데이터 탐색기 쿼리를 제공하는 것입니다.
- 최근 채팅 리팩토링 덕분에 봇과 "무제한"으로 새로운 토론을 열 수 있으므로, 이 부분을 활용하여 무언가를 설계할 수 있습니다.
- 채팅에서 @mention을 허용한다면… 왜 같은 그룹에 대한 포럼 게시물에서도 허용하지 않나요? 다른 그룹에는 어떻게 할까요?
이 모든 것을 고려하면… 제 V0 제안은 다음과 같습니다:
- 사이트 설정
ai_bot_chat_enabled_groups추가 - 당장은 컨텍스트 1000토큰을 하드코딩하고 - 우선순위가 가장 높은 페르소나를 선택
- V0에서는
@mention지원만 수행
V1
- 스트리밍 및 취소 지원
V2
- "AI 봇과의 그룹 DM"에 대한 선택적 지원 추가
- 이 모든 것을 쉽게 찾을 수 있는 멋진 UI를 갖추고, 이 작업을 수행하는 데 드는 오버헤드를 최소화하도록 보장합니다.
V3
-
선택적으로 페르소나가 전용 아바타를 가진 전용 사용자를 스테이징하도록 허용합니다. 그러면 채팅에서 여러 봇과 상호작용할 수 있습니다. 이 모드에서는 페르소나에 사용자/모델도 선택됩니다.
-
일부 설정을 페르소나 UI로 이동합니다 … 어떤 페르소나가 채팅에 활성화되어 있나요?
V4
- 한도에 대해 생각해봅니다 - 사용자당 일일 최대 토큰 사용량 같은 것들
V5
- 이 중 일부 기능을 표준 토픽에도 추가하는 것에 대해 생각해봅니다 - (사이트 설정 등이 필요함) 예:
@summary_bot 이 토픽을 지금까지 요약해줘
전체적으로 이 아이디어들을 많이 좋아하지만, 이것들을 우리 로드맵에 어떻게 맞춰갈지 알아내야 합니다.
8개의 좋아요
한편, 자체 호스팅을 사용 중인 경우 Discourse Chatbot을 고려해 볼 수 있습니다. 이 봇은 처음부터 채팅 기능을 지원했으며(실제로 Discourse용 첫 번째 AI 챗봇이었습니다).
4개의 좋아요
매우 탄탄한 계획인 것 같습니다.
기본 채팅 페르소나에 대한 설정으로 시작해서, 궁극적으로는 채널별로 적용하도록 이관하는 것이 어떨까요?
전적으로 동의합니다.
채팅에서 시작하는 것이 좋은 방법이라고 생각하며, 궁극적으로 동일한 동작을 토픽으로 이식하는 것이 좋겠습니다.
2개의 좋아요
여기서 당신과 @Falco님의 의견에 거의 동의합니다. 추가로 언급할 점이라면, V0가 아니라면 V1/V2에서 채팅 스레드(Chat Threads)에서도 정상 작동하도록 확인하는 것입니다.
(선택 사항) 향후 추가할 가치가 있을 수 있는 또 다른 기능은 봇과의 채팅을 시작할 수 있는 옵션입니다. 일부 사용자는 이 기능이 있다는 것조차 모를 수 있다고 생각합니다!
4개의 좋아요
V0로서 괜찮은 것 같습니다. 중장기적으로 사이트 설정보다, 이 UI에서 봇을 생성하고 허용된 그룹을 정의할 수 있는 더 나은 UI를 제공하는 것이 훨씬 나을 것 같습니다.
1개의 좋아요
Persona 에디터가 그 목표를 달성하는 확실한 방법입니다.
새로운 사용자를 Persona에 연결하는 데 필요한 기반은 이미 모두 갖춰져 있습니다.
2개의 좋아요
채팅에 AI 봇을 넣으면 현재 AI와의 개인 메시징보다 훨씬 나을 것 같아요…
이 기능이 빨리 추가되면 좋겠네요…
참고로, Gemini API 사용이 곧 무료가 아닐 것 같은데… 음…
1개의 좋아요
저도 이걸로 실험을 해봤는데, 히스토리를 추적하는 것이 어렵고 마크다운 지원이 완벽하지 않으며 그 외에도 여러 제한 사항이 있습니다. 그래서 압도적인 우위라고 보기는 어렵습니다. 그래도 대화를 시작하기는 쉽지만, 완전한 대체재는 아닙니다.
정확히 어떤 점에서 훨씬 낫다고 생각하시는지 구체적으로 설명해 주시겠어요?
Gemini 1.0 pro는 그렇게 훌륭하지 않아서, 어쨌든 피하시는 게 좋습니다. 저렴한 LLM을 찾고 계시다면 Claude 3 Haiku를 선택하시는 것이 좋습니다.
4개의 좋아요
이 주제는 2일 후 자동으로 닫혔습니다. 새로운 답변은 더 이상 허용되지 않습니다.