Discourse AI 봇은 게시글에 대해 RAG(검색 증강 생성)를 사용하므로, 봇이 활성화된 경우 각 게시글에는 벡터 공간 표현인 임베딩(embedding)이 연관되어 있어야 합니다. 이러한 임베딩을 API를 통해 접근할 수 있다면 매우 편리할 것입니다.
더 많은 사용자가 Discourse에서 AI를 사용하기 시작하면서, 현재 제공되지 않는 기능들을 원할 수 있습니다. AI는 일반적으로 게시글 임베딩을 필요로 하는데, AI 봇이 활성화된 Discourse 사이트에는 이미 이러한 임베딩이 존재하므로, 이를 중복 생성하는 대신 기존 임베딩을 활용하는 것이 합리적입니다.
지금쯤이면 Discourse AI 봇이 외부 데이터에 접근할 수 있을 것이라 기대했지만, 해당 기능에 대한 정보는 찾지 못했습니다. 따라서 ChatGPT 플러스용 커스텀 GPT를 생성하는 것을 고려하고 있으며, 기존에 존재하는 임베딩을 활용하고 싶습니다.
해당 특정 사용 사례에 대해 API가 제공되지 않더라도, ai_로 시작하는 테이블(예: ai_topic_embeddings)을 사용하여 데이터 탐색기에서 SQL 쿼리를 작성하고, API를 통해 쿼리 결과를 가져오는 방법을 항상 사용할 수 있습니다.
이제 지원됩니다. 엔드포인트:
https://SITENAME/discourse-ai/embeddings/semantic-search.json?hyde=false&q=YOURQUERY
이 엔드포인트는 벡터 유사도 검색을 수행합니다.
이것도 이제 커스텀 AI 도구를 사용하여 지원됩니다.
감사합니다!
이것이 왜 중요한지, 쿼리를 어떻게 구성하는지(프롬프트인 것 같음), 그리고 이를 어떻게 활용하면 Discourse 포럼을 향상시킬 수 있는지에 대한 튜토리얼이 있으면 좋겠습니다.
또한, AI 모델을 OpenAI GPT에서 Claude로 변경하는 경우 임베딩이 달라지므로, 이러한 변경의 영향에 대해 튜토리얼에 언급해 주시면 좋겠습니다.
저는 Zulip 포럼(Lean)에 자주 접속하는데, Discourse에 있는 AI 기능이 없어서 그 점이 아쉽습니다. (Zulip 기능 매트릭스)
이 아이콘은 해당 기능이 존재하지 않음을 의미합니다.
AI를 활용하여 기능을 강화한 Discourse 스태프에게 경의를 표합니다.
기억이 맞다면, 현재 임베딩 비용이 매우 저렴해져서 비용을 청구할 가치가 없으므로 이 기능의 사용은 무료입니다. 
물론 Discourse 스태프가 이 설명을 명확히 해 주어야 하지만, 많은 사람들이 이 답변에 놀라게 될 것이라고 생각합니다.
호기심에 제가 Trust Level 1(기본 사용자)인 Discourse 사이트에서 해당 URL을 시도해 보았더니 쿼리가 작동했습니다.
이 기능이 기본적으로 활성화되어 있고 사용 가능하므로, 제 마음 한구석에서는 이러한 기술이 인터넷을 사용하는 시각장애인에게 이점이 되는지 고려하게 됩니다. 이는 분명히 시각장애인에게 이득입니다. 즉, 이 기능의 존재를 인지하게 된다면 본인이거나 다른 사람들이 이를 활용하여 도움을 받을 수 있기 때문입니다.
이에 따라 OpenAI 포럼의 시각장애인 관련 주제에 이 내용을 언급했습니다.
이 주제는 3일 후 자동으로 닫혔습니다. 더 이상 새 답변을 게시할 수 없습니다.