페르소나는 어떻게 선택하나요? 그리고 페르소나와 AI 봇 활성화 채팅 명령어의 차이는 무엇인가요?
구체적으로 어떻게 진행하나요?
1개의 좋아요
페르소나는 @sam 님이 더 많고 더 나은 명령어를 지원할 수 있도록 발견한 최적의 방법입니다. 잘 알려진 LLM의 한계로 인해 결국 잊어버리고 실패하는, 모든 것을 하려는 ‘단일 봇’ 대신, 시작 시 적절한 페르소나를 선택하면 훨씬 더 나은 경험을 얻을 수 있습니다.
2개의 좋아요
아하! 정말 멋진데요. 저는 그동안 개인 메시지를 보내는 방식으로 채팅을 시작하고 있었거든요.
이건 버그에 대한 설명도 됩니다. 개인 메시지를 시작해서 GPT에게 보내면 제목이 가려져서 메시지를 보낼 수 없어요. 합리적으로 플러그인을 사용하는 사람은 이런 일을 하지 않을 거예요.
왜 저는 아이콘을 이용해 채팅을 시작하는 방법을 사용하지 않았는지는 설명할 수가 없어요. 심지어 사용자에게 그렇게 채팅을 시작할 수 있다고 말해줬으면서도, 제 자신은 그렇게 해본 적이 없었거든요!?
다음 질문은 새로운 페르소나를 만드는 것이 얼마나 쉬운지, 혹은 얼마나 쉬울지에 대한 거예요. (다음으로 코드를 살펴볼 거예요.)
예를 들어, 저는 다음과 같은 템플릿(AI 챗봇 플러그인과 함께 작동하는)을 만들었어요:
@AIBot
당신은 친절하고 도움이 되는 튜터입니다. 당신의 역할은 사용자에게 개념을 명확하고 직관적인 방식으로 설명하는 것입니다. 개념에 대한 비유와 예를 제시하고, 이해 여부를 확인하세요. blah blah blah
. . .
그리고 계속됩니다.
이걸 페르소나로 만들 수 있으면 좋겠어요.
수정: 첫눈에 보기, 페르소나를 추가하려면 몇 가지 파일만 변경하면 되는 것 같아요. 페르소나 자체, 그리고 entry_point.rb에서 이를 require하고, 활성화할 설정이 필요합니다. 오! 아니면 사이트 설정으로 프롬프트를 받는 사용자 정의 페르소나가 있을 수도 있겠네요. 아마도 장기적인 해결책이 될 거예요. 제가 그걸 위한 PR을 시도해 보는 게 좋을까요, 아니면 당분간 제 자신의 포크 버전을 사용하는 게 나을까요?
3개의 좋아요
미래에 프롬프트를 사용자 지정할 수 있도록 할 계획이지만, 아직은 그 시기가 이르다고 봅니다.
현재 이 플러그인의 “미리보기” 상태에서는 많은 부분이 이동하고 있어 내부 코드 구조의 안정성을 보장할 수 없으므로, 포크에서 시작하시는 것을 권장합니다.
일반적으로 유용하다고 생각되는 결과를 얻고, 다른 페르소나들과 동일한 수준의 표준을 충족할 수 있다면 Contribute > Feature 채널에서 PR을 논의하기 위해 토픽을 열 수 있습니다.
6개의 좋아요
@pfaffman AI 봇에 사용할 수 있는 다양한 페르소나 유형에 대해 논의 중입니다. 현재까지 아래 목록으로 범위를 좁혔지만, 아직 실험 단계입니다…
- 포럼 헬퍼: 다양한 작업을 수행할 수 있는 범용 AI 봇입니다. 현재 Discourse 인스턴스를 검색하여 해당 정보를 바탕으로 답변을 생성할 수 있습니다.
- 예: AI 관련 인기 게시글은 무엇인가요?
- SQL 헬퍼: 이 Discourse 인스턴스에서 SQL 쿼리를 작성하는 데 특화된 AI 봇입니다(현재 DB 스키마를 인식합니다).
- 예: 특정 고객/사용자가 작성한 모든 AI 봇 메시지를 조회하는 쿼리를 작성해 주세요.
- 아티스트: 이미지 생성에 특화된 AI 봇입니다.
- 예: 고양이 그림을 그려 주세요.
- 설정 탐색기: Discourse 사이트 설정을 탐색하는 데 도움을 주는 특화 AI 봇입니다(Discourse 소스 코드를 인식합니다).
- 예: 제 Discourse 사이트에서 Discourse AI를 활성화하는 방법은 무엇인가요?
- 리서처: Google에 접근하여 정보를 조사해 주는 AI 봇입니다.
- 예: 공룡은 다리 몇 개가 있나요?
AI 봇에서 보고 싶은 다른 페르소나가 있으신가요? (위에서 게시된 페르소나들이 마음에 들지 않는다면) 사용자 정의 “custom” 페르소나를 개발하는 것이 가치 있다고 보시나요?
1개의 좋아요
아직 아무 작업도 하지 않은 제 아이디어는, 페르소나를 위한 카테고리를 만들어 해당 토픽의 OP(원문)를 프롬프트로 사용하는 것입니다. AI 이미지 생성기에 전달할 프롬프트를 생성하는 아래 링크의 사용자 정의 프롬프트처럼, ChatGPT Prompt Genius Engineering | MetricsMule 또는 다음 링크의 프롬프트처럼 Now is the time for grimoires - by Ethan Mollick 시작되는 형태를 상상하고 있습니다.
사용자 정의 프롬프트/페르소나는 많은 커뮤니티에 유용한 기능이 될 가능성이 높으며, 코어에 새 프롬프트를 추가하는 것을 매우 쉽게 만들 것입니다(아, 하지만 의도적으로 수정되었는지 알기 어려울 수 있으므로 코어가 해당 프롬프트를 업데이트하는 것이 더 어려워질 수도 있습니다…).
아니면 토픽 대신 프롬프트 배열을 포함하는 설정을 두는 것이 더 좋을 수도 있습니다. 이는 토픽(이는 정형 답변에는 작동하고 있습니다)보다 프롬프트를 관리하는 더 나은 방식일 수 있습니다.
3개의 좋아요
Discourse UI를 외부 LLM의 프론트엔드로 사용하는 것 외에, 이 페르소나에서 Discourse 통합 위에 구축된 것은 무엇입니까?
대부분의 페르소나에 대해 RAG(검색 증강 생성)를 도입하는 것을 검토하고 있습니다. 이를 통해 시중의 LLM만으로는 제공할 수 없는 것을 만들어낼 수 있습니다.
3개의 좋아요
아. 음. . .
네. 제가 원하는 것이 바로 그것입니다.
제 사용 사례는 (유용한 튜터처럼) 사람들이 AI 생성된 활동을 수행하도록 안내하는 수업 과제를 만드는 것입니다. Discourse가 제 망치(hammer)이므로, 모든 것이 Discourse 안에서 이루어지기를 원합니다. (이번 주말에 URL 단축기/QR 코드 생성기를 찾고 설치하는 데 12시간 정도를 보냈는데, Discourse 플러그인으로 만들었다면 더 빠르게 할 수 있었을 것 같아요!).
저와 제 학생들이 API 호출에 지불해 온 비용을 보면, 월 20달러를 내고 GPT4의 인터페이스를 사용하는 것보다 Discourse를 통해 GPT4를 사용하는 것이 훨씬 저렴한 것으로 보입니다.
혹시 다른 분들도 듣고 계신다면, 그가 이걸 말하는 것 같습니다: What is retrieval-augmented generation (RAG)? - IBM Research.
아, 죄송합니다. 네, 그 주제는 저와 거리가 멉니다.
2개의 좋아요
이 목록에 "소크라테스식 튜터"를 추가할 수 있을까요? 학생의 에세이에 대해 구조화된 프롬프트 세트를 실행하여 피드백을 제공하는 웹앱을 실험하고 있습니다. RAG(검색 증강 생성) 기반의 학습 대화를 위해 학습 대화의 소스 자료를 제공하는 숨겨진 토픽을 가질 수 있으면 좋겠습니다.
예를 들어 다음과 같은 프롬프트처럼요: “당신은 학생의 과제를 돕고 싶지만, 절대 직접적인 답변을 제공하지 않는 현명하고 친절한 선생님입니다. 학생들이 스스로 문제를 해결할 수 있도록 충분한 정보를 제공하기를 원합니다. [이 카테고리나 게시글 또는 단일 토픽]에 있는 소스 자료는 정확하며, 학생의 구체적인 질문에 답하는 데 필요한 모든 정보를 제공합니다. 질문에 답할 때 이 소스 자료의 정보만 사용하세요.”
2개의 좋아요
확실히, 사용자가 직접 선택할 수 있는 “커스텀 페르소나” 지원 기능을 추가하고 싶습니다:
- Temperature
- System Message
- LLM
- Commands
이를 위해 UI를 구축해야 하므로 시간이 조금 걸릴 수 있지만, 매우 강력하고 유용한 기능이라고 생각합니다.
최종적으로는 일반 사용자도 커스텀 페르소나를 만들 수 있도록 해야 하며, V0 버전에서는 관리자 전용 기능으로 시작할 가능성이 높습니다.
장기적인 비전은 사용자가 커스텀 명령어를 정의할 수 있도록 하여, 자신이 사용하는 다양한 시스템과 인터페이스를 구성할 수 있게 하는 것입니다(웹 훅 등이라고 생각하면 됩니다. 봇의 컨텍스트를 채우기 위해 커스텀 시스템에 API 호출을 수행하는 방식이죠).
아직 이 모든 것은 제 머리 속 구상 단계에 머물러 있지만, 결국 도달하게 될 것입니다. 따라서 단계별 계획은 다음과 같습니다:
Phase 0
- 관리자가 커스텀 페르소나를 정의하고 명령어/온도/시스템 메시지/LLM을 선택할 수 있습니다.
Phase 1
- 허용된 그룹이 "개인 페르소나"를 정의할 수 있습니다. 예: 제 크리에이티브 페르소나가 더 창의적이거나 / 더 간결하거나 / etc… Open AI의 커스텀 인스트럭션과 유사하지만 더 강력한 형태입니다.
Phase 2
- 커스텀 명령어를 허용하여 제3자 시스템과 연동할 수 있게 합니다.
8개의 좋아요
모든 것이 꽤 흥미롭습니다.
다만, 페르소나 개념에 메모리 뱅크(memory bank) 개념을 추가한다면 0단계와 1단계가 훨씬 더 강력해질 것입니다. 즉, 봇이 어떻게 _행동_할지를 설명하는 작은 캐릭터 스케치를 작성하는 것 외에도, 주제, 주제 카테고리, 카테고리 또는 태그 집합을 사용하여 봇이 알고 있는 내용을 정의할 수 있습니다.
일부 사람들은 특정 주제에 대해 많은 것을 알고 공식적인 답변을 할 수 있는 반면, 다른 사람들은 질문을 하거나 정보가 부족한 토론을 진행하는 포럼에서는 이것이 큰 차이를 만듭니다. 봇이 구식이거나 혼란스러운 주제 토론을 반복하게 하고 싶지 않을 것입니다… 검증된 사실 집합으로 봇의 범위를 제한할 수 있어야 합니다.
페르소나 에디터가 이제 정상 작동합니다!
이 주제는 여기서 마무리하겠습니다. 페르소나 에디터에 대한 새로운 기능 요청은 자유롭게 새 주제를 열어 주세요.
4개의 좋아요