JC_ICE
(Sunice)
8월 7, 2023, 5:56오전
1
Hugging Face의 Llama2 챗봇은 어떻게 사용하나요?
포럼에서 AI 모듈을 설정하는 데 도움이 되는 가이드입니다:
이 가이드는 Discourse AI 모듈을 구동하는 서비스의 자체 인스턴스를 실행하는 방법에 대한 것입니다.
소개
자체 호스팅된 인스턴스에서 Discourse AI를 사용하려면 활성화하려는 모듈에 필요한 동반 서비스(companion services)를 실행해야 할 수 있습니다.
각 모듈에는 하나 이상의 필수 동반 서비스가 있으며, 이러한 서비스는 Discourse 자체보다 더 많은 CPU / GPU / 디스크 공간을 사용하므로, Linux 서버 관리와 Docker에 익숙하지 않은 분들에게는 권장하지 않습니다.
요약 / AI 헬퍼 / AI 봇
임베딩(Embeddings)
감정 분석(Sentiment)
프로덕션 환경에서 실행
실제 운영 중인 사이트에서 실행할 때 로드 밸런싱, TLS, 헬스 체크, 레이트 리미트 등의 기능을 활성화하기 위해 이 서비스를 리버스 프록시 뒤에 두는 것을 고려할 수 있습니다.
서비스가 실행되면, 관리자 UI(관리자 > 플러그인 > Dis…
더 많은 맥락을 제공하시려면 말씀해 주세요. 도와드릴 수 있습니다.
디스코urse는 처음이고 OpenAI API 사용은 익숙하지만, 셀프 호스팅 버전에서 Hugging Face를 통합해 보고 싶습니다. HuggingFace.co에 계정을 만들고 API 자격 증명을 확보했지만, 다른 어떤 단계가 필요한지 궁금합니다. 특히 Admin>Settings>Discourse AI에서 Hugging Face 관련 다른 값들을 어디서 찾을 수 있는지요?