모듈형 설계로 여러 AI 챗봇을 만들 수 있을까요? 사용자가 상호작용하는 메인 봇(main_bot)이 있고, 메인 봇이 대화에 참여시킬 전문 봇을 알아서 판단하는 방식입니다.
AI 플러그인 문서를 꼼꼼히 살펴보았지만, 어떻게 구현해야 할지 잘 모르겠습니다.
이렇게 강력하고 커스터마이징이 잘 되는 도구를 만들어 주셔서 감사합니다.
이제는 우리의 도구 스크립팅을 통해 기술적으로 가능하다고 생각합니다. 제가 잘못 알고 있는 건가요, @sam?
3개의 전문화된 봇이 각각 자체 문서를 가지고 있다면,它们的 임베딩은 서로 격리되어 있나요? 아니면 임베딩/문서가 쉽게 격리되도록 특별히 무언가를 해야 한다고 생각하시나요?
Persona에 업로드된 문서는 해당 Persona에만 격리됩니다.
예시를 조금 더 구체적으로 확장해 주실 수 있을까요?
도구는 이제 페르소나에 직접 접근할 수 있으므로, 요청을 도우리로 라우팅하는 페르소나를 정의한 후, 해당 도구가 작업에 가장 적합한 페르소나를 결정하도록 할 수 있습니다. 하지만 여러분이 구상하고 있는 전체 플로우를 제대로 이해하는 것이 여기서 조언을 드리는 데 도움이 될 것입니다.
백신에 대한 의료 문헌에는 상당량의 위험/이점 정보가 포함되어 있습니다. 하나의 페르소나(예: VaccineBot)가 이 모든 정보를 알고 있다면, 수백 개의 문서가 업로드되고 혼란의 가능성이 커질 것입니다. 이 접근법을 실험해 봤는데, 답변의 품질이 좋지 않았습니다.
대신, 전문화된 페르소나를 사용하는 것을 생각하고 있습니다:
- DTaP-Bot
- HepB-Bot
- MMR-Bot
- Rotavirus-Bot
- Polio-Bot
- 등등
모듈형 설계와 정보 집중도 측면에서는 매우 좋은 방법처럼 보입니다. 하지만 이는 커뮤니티 구성원들에게 대부분의 사람들이 가지고 있는 것 이상의 백신 일정 지식을 요구하는 큰 부담을 주게 됩니다. 따라서 이상적으로는 VaccineBot이 사용자의 질문을 받아 어떤 전문 봇을 참여시켜야 하는지 파악하고, 대화를 조정(오케스트레이션)할 수 있어야 합니다.
예를 들어, 복합 백신(1회 주사에 6가지 백신 포함)에 대해 부모가 질문을 한다면 여러 봇을 불러와야 합니다. 또는 생후 2개월 건강 검진 시 영아에게 한 번에 최대 8가지의 백신이 투여될 수 있는데, 이때 VaccineBot은 모든 전문 봇을 포함시키고, 각 봇의 목적과 초점, 일반적인 반응 등에 대한 요약을 받아야 합니다.
이 분야는 매우 빠르게 복잡해집니다:
DTaP = 3가지 백신, 1회 주사, 분리 불가
HepB = 1가지 백신, 1회 주사
MMR = 3가지 백신, 1회 주사, 분리 불가
소아과 의사들은 Vaxelis와 같은 복합 백신(6-in-1 주사: DTaP + HepB + Polio + Hib)을 자주 투여합니다.
생후 2개월 건강 검진에는 Vaxelis + PCV + Rotavirus가 포함될 수 있습니다.
사용자가 다가오는 생후 2개월 검진에 대해 질문하면, 오케스트레이터 봇(VaccineBot)은 6개의 다른 페르소나(봇)와 협력하거나, 적어도 그들을 대화에 참여시켜야 합니다.
이 설명이 이해되시나요?
계속 실험해 보고 결과를 알려드릴게요.
VaccineBot을 위한 유사한 프롬프트를 작성해 주세요: 사용자에게 제시된 질문을 분석하고, 다음 주제에 따라 가장 적절한 사용자를 @username 형식으로 호출하세요.
@DTaP-Bot: 단일 접종으로 시행되는 세 가지 백신을 포함하며, 분리하여 접종할 수 없습니다.
@HepB-Bot: 1회 접종으로 시행되는 단일 백신에 해당합니다.
@MMR-Bot: 1회 접종으로 시행되는 세 가지 백신을 포함하며, 분리하여 접종할 수 없습니다.
@Rotavirus-Bot: …
@Polio-Bot: …
생성하는 봇의 설정에 ‘다른 사용자가 언급할 수 있음’ 옵션을 포함시켜야 합니다. 이를 통해 초기 봇이 응답한 후, 적절한 봇이 답변에 추가되어 질문에 대한 포괄적인 답변을 제공할 수 있습니다.
샘플 프롬프트를 제공했습니다. ChatGPT의 도움을 받아 사용자 환경에 완벽하게 부합하는 더 정교하고 맞춤형 프롬프트를 작성할 수 있습니다.
음… 오늘 커스텀 툴을 활용하면 이 문제를 해결할 수 있을 것 같아요!
- 모든 문서를 커스텀 툴에 업로드합니다.
- 커스텀 툴에 "semantic_query"와 “vaccine_name”(열거형) 매개변수를 전달합니다.
- 그런 다음 커스텀 JS에서 vaccine_name 업로드에 대한 검색을 실행하고, 해당 특정 부분을 컨텍스트에 주입합니다.
이렇게 하면 특정 하위 집합에 대한 컨텍스트만 얻을 수 있도록 보장됩니다.
@kuaza님과 @sam님, 이 문제를 어떻게 접근해야 하는지에 대해 훌륭한 조언을 주셔서 감사합니다. 곧 다시 보고드리겠습니다.
–Chris
@sam - 도구 접근 방식이 아주 잘 작동했습니다. 다시 한번 감사드립니다.
–Chris
지금 적용 중인 실제 솔루션에 대해 기술적인 세부 사항과 몇 가지 예시를 공유해 주시면 좋겠습니다. 메타의 회원분들도 이를 배우고 싶어 하실 것이라 확신합니다.