여러분 안녕하세요!
Discourse AI 플러그인에 유용할 몇 가지 기능을 제안하고자 합니다:
-
사용자별 토큰 사용량 추적
이 기능을 통해 관리자는 사용자가 AI와 상호작용할 때 얼마나 많은 토큰을 소비하는지 모니터링할 수 있습니다. 이는 악용을 방지하고 사용자별 또는 그룹별 토큰 한도를 설정하는 데 도움이 될 수 있습니다. 사용자별 상세 토큰 사용량 내역을 확인하면 사용 패턴과 비용에 대한 더 나은 통찰력을 얻을 수 있습니다.
저희 커뮤니티에서는 AI와 대화할 때 러시아어를 사용하는데, OpenAI의 토크나이저는 러시아어 처리가 잘 되지 않습니다. 토큰 하나가 문자 하나에 해당할 수 있는데, 저희에게는 정말 비쌉니다! -
사용자가 사용자 정의 AI 페르소나를 만들 수 있도록 허용
사용자가 자신만의 AI 어시스턴트 페르소나(사용자 정의 프롬프트 생성)를 정의할 수 있도록 하여 더 몰입감 있고 개인화된 상호작용을 가능하게 해야 합니다. 사용자에게 이러한 유연성을 부여하면 포럼에서 AI의 더 창의적인 활용을 장려할 수 있습니다. -
컨텍스트로 포함할 기본 최대 게시물 수 설정
모든 페르소나에 대해 최근 게시물 수를 특정 숫자로 제한하여 컨텍스트를 제한하는 기본 옵션을 추가하면, AI가 적절하게 응답할 수 있는 충분한 컨텍스트를 제공하면서도 토큰 사용량을 통제하는 데 도움이 될 수 있습니다. -
사용자 정의 데이터 소스의 텍스트 사용 기능
PDF, 웹페이지, Google Drive 파일과 같은 소스를 위한 문서 로더를 통합하면 사용자가 정보와 상호작용하기가 더 쉬워질 것이며, 구현이 매우 어렵지 않을 것으로 보입니다. AI가 특정 주제에 대해 대화할 때 PDF로 업로드된 화이트페이퍼의 정보나 특정 웹페이지의 사실들을 참조할 수 있다고 상상해 보세요. 이는 주로 다양한 형식의 논문을 다루는 저와 같은 학술 커뮤니티에서 특히 유용합니다. 이를 통해 전문적인 토론에서 AI의 기능을 크게 강화할 수 있습니다. LangChain과 같은 문서 로딩 도구를 이를 위해 활용할 수 있을 것입니다: Document Loaders —
LangChain 0.0.146 -
모든 AI 모델을 위한 사용자 정의 API 기본 URL 지원
현재 사용자 정의 API URL은 OpenAI에서만 지원됩니다. 이 기능을 모든 지원되는 AI 제공업체로 확장하면 리버스 프록시 또는 기타 비표준 API 엔드포인트를 사용해야 하는 사용자에게 매우 도움이 될 것입니다. 저희 중 많은 이들이 보안, 규정 준수 또는 비용 관리의 이유로 리버스 프록시에 의존하고 있으므로, AI 요청을 자체 인프라를 통해 라우팅할 수 있는 유연성이 있다면 이 플러그인을 저희 환경에 통합하는 것이 훨씬 쉬워질 것입니다. -
사용자의 언어 기반 로컬라이즈드 채팅 제목 생성
현재 AI는 영어로만 채팅 제목을 생성합니다. 사용자가 선호하는 언어로 제목을 생성할 수 있는 기능을 갖추면, 특히 영어가 모국어가 아닌 커뮤니티에서 더 나은 사용자 경험을 제공할 수 있습니다.
여러분의 의견을 들려주세요!
