# discourse-ai AI 봇과 merefield/discourse-chatbot 비교
**URL:** https://meta.discourse.org/t/comparison-between-discourse-ai-ai-bot-and-merefield-discourse-chatbot/278148
**Category:** General
**Tags:** ai, ai-bot
**Created:** [5월 24, 2023, 7:25오전 UTC](https://meta.discourse.org/t/comparison-between-discourse-ai-ai-bot-and-merefield-discourse-chatbot/278148 "2023-05-24T07:25:43Z")
**Posts on this page:** 5
**Page:** 1
### Author:  [@twofoursixeight](https://meta.discourse.org/u/twofoursixeight)
#### Post date: [5월 24, 2023, 7:25오전 UTC](https://meta.discourse.org/t/comparison-between-discourse-ai-ai-bot-and-merefield-discourse-chatbot/278148/1 "2023-05-24T07:25:43Z")
공식 [Discourse AI](https://meta.discourse.org/t/discourse-ai/259214) 플러그인과 [Discourse Chatbot 🤖](https://meta.discourse.org/t/discourse-chatbot-supporting-chatgpt/256652) 플러그인은 AI 봇과 그 기능 측면에서 어떤 차이가 있나요?
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [5월 24, 2023, 7:58오전 UTC](https://meta.discourse.org/t/comparison-between-discourse-ai-ai-bot-and-merefield-discourse-chatbot/278148/2 "2023-05-24T07:58:11Z")
@merefield 플러그인은 출시된 지가 더 오래되었고, 설정할 수 있는 옵션도 훨씬 많습니다. AI Bot도 (특히 GPT 4에 접근할 수 있게 되면서) 다소 더 야심 찬 목표를 가지고 있으며, Discourse 경험에 이를 통합하려 합니다. 예를 들어, 봇은 주제 검색 및 요약 방법을 알고 있습니다.
오늘 기준 주요 차이점은 아마도 다음과 같습니다.
- 우리는 답장을 스트리밍 방식으로 제공하고 중지 버튼을 제공합니다.
- @merefield는 설정을 미세 조정할 수 있는 훨씬 더 많은 옵션을 제공합니다.
- 우리는 사용자가 대신 행동을 취하도록 봇을 지시하는 “명령” 프레임워크를 제공합니다. 다만 GPT 3.5에서의 경험은 아직 다소 불안정합니다.
- @merefield는 현재 Discourse 채팅 통합을 제공하지만, 우리는 아직 제공하지 않습니다.
- 우리는 Anthropic 통합도 제공합니다.
---
### Author:  [@MarcP](https://meta.discourse.org/u/MarcP)
#### Post date: [5월 24, 2023, 6:45오후 UTC](https://meta.discourse.org/t/comparison-between-discourse-ai-ai-bot-and-merefield-discourse-chatbot/278148/3 "2023-05-24T18:45:53Z")
> [@sam](#):
>
> 오늘 기준으로 주목할 만한 차이점은 아마도
추가로 말씀드리자면, 제 테스트 결과에 따르면 AI 봇은 DM에서만 작동하고 챗봇은 모든 곳에서 작동하는 것으로 보입니다. AI 봇 사용법에 제가 뭔가 잘못하고 있는 게 아니라면요.
이미지 생성과 스트리밍, 그리고 검색 API도 잘 구현되어 있지만, 가끔은 여전히 "웹 검색을 할 수 없거나 이미지를 생성할 수 없습니다"라고 응답하는 경우가 있습니다. 어떤 단계를 수행할지 결정하는 LangChain 에이전트와 유사한 방식을 사용하고 계신 건가요?
전체 웹 범위의 CX를 생성해야 하는 건가요, 아니면 우리 인스턴스 URL만 대상으로 하면 되는 건가요?
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [5월 24, 2023, 8:51오후 UTC](https://meta.discourse.org/t/comparison-between-discourse-ai-ai-bot-and-merefield-discourse-chatbot/278148/4 "2023-05-24T20:51:22Z")
> [@MarcP](#):
>
> 추가로 말씀드리면, 제 테스트 결과 AI 봇은 PM에서만 작동하고 챗봇은 모든 곳에서 작동하는 것으로 보입니다. 제가 AI 봇을 잘못 사용하고 있는 것이 아니라면요.
맞습니다. 더 넓은 범위의 통합을 하게 될 가능성이 높지만, 여기서는 시간을 두고 기존 기능을 먼저 다듬는 데 집중하고 있습니다.
> [@MarcP](#):
>
> 가끔은 여전히 “웹을 검색하거나 이미지를 생성할 수 없습니다”라는 응답으로 되돌아갑니다.
네, GPT 3.5와 4의 차이에서 오는 매우 답답한 부분입니다. 3.5 모델의 그라운딩(Grounding)은 정말로 매우 어렵습니다.
GPT 3.5로 답변하기 전에, 실제 응답에 앞서 문제를 분류하는 중간 단계를 고려하고 있습니다(예: 이 상호작용은 !command로 이어져야 하는 것처럼 보이나요? 그렇다면 어떤 명령일까요?). 하지만 불행히도 이로 인해 비용과 지연이 증가하므로 이는 최후의 수단입니다.
우리는 일종의 Langchain을 5단계로 제한하여 사용하지만, 토큰을 매우 절제되게 사용하려 하기 때문에 균형 잡기가 어렵습니다.
> [@MarcP](#):
>
> CX의 범위를 전체 웹으로 설정해야 하나요, 아니면 우리 인스턴스 URL만 설정해야 하나요?
사용자분 재량입니다… 저는 구글 전체에 접근할 수 있는 것을 선호하는데, 정말로 유용합니다.
---
### Author:  [@MarcP](https://meta.discourse.org/u/MarcP)
#### Post date: [5월 25, 2023, 3:28오전 UTC](https://meta.discourse.org/t/comparison-between-discourse-ai-ai-bot-and-merefield-discourse-chatbot/278148/5 "2023-05-25T03:28:16Z")
> [@sam](#):
>
> 네, 이것이 GPT 3.5와 4의 차이에서 정말 짜증나는 부분입니다. 3.5 모델의 그라운딩(Grounding)은 정말로 매우 어렵습니다.
저는 3.5를 그라운딩하기 위해 최종 프롬프트의 하단에 두 번째, 더 짧은 시스템 프롬프트를 추가하여 메인 시스템 프롬프트의 일부 규칙을 모델에게 "다시 상기"시켜 줍니다.
즉, 다음과 같은 형태가 됩니다. (전화로 타이핑 중이라, 시도해 보는 중입니다…)
system role
user
assistant
..
..
system role “reminder”
new user prompt
가장 중요한 시스템 역할 내용을 반복하기만 하면, 모델이 해당 내용에 더 큰 가중치를 부여합니다. 저는 몇 달째 이 우회 방법을 사용해 왔으며, 이상한 응답을 받는 경우는 거의 없었습니다.
특히 프롬프트가 길어질수록, 모델은 최종 프롬프트 상단에 있는 내용들을 “잊어버리는” 경향이 있습니다. AI 분야는 매우 해킹적인(hacky) 부분이 많은데, 저는 GPT 모델과 langchain에서도 이를 경험하고 있습니다. 오늘도 langchain에서 특정 도시의 시간을 물어봤을 때, “손목시계 확인하기”, “시계의 시간대 변경하기”, "낯선 사람에게 물어보기"와 같은 강력한 성격(personality)이 작용하여 실행되었습니다.