- Discourse에 Discourse AI를 설치하려고 합니다. 다음 세 가지 방법 중 어떤 방법을 사용해야 하나요?
1-1. 플러그인 설치 지침에 나와 있듯이, Discourse AI의 .git 주소를 'nono’에 추가합니다.
1-2. Discourse AI - Self-Hosted Guide 이 주소에 표시된 세 줄의 ‘Docker’ 명령어를 입력하여 설치합니다.
*루트 디렉터리에서 명령어를 입력해야 하나요?
1-3. 1-1.과 1-2.를 모두 수행해야 하나요? - Discourse AI를 실행하는 데 필요한 최소 사양은 무엇인가요?
자체 호스팅된 Discourse에서 Toxic, NSFW 및 Sensitivity를 사용하려면 단순히 이 링크(GitHub - discourse/discourse-ai: Discourse AI now lives in the discourse/discourse repo · GitHub)만 추가하면 충분한가요?
아래 링크에 명시된 Docker 명령어로 설치해야 하나요?
OpenAI 기반이 아닌, 훨씬 더 비싼 다른 LLM도 필요합니다. 그 플러그인은 그냥 인터페이스일 뿐, 그 이상은 아닙니다.
답변 주셔서 감사합니다. 조금 더 자세히 설명해 주실 수 있을까요?
링크에서 설명하듯, 단순히 AI 플러그인 자체는 아무것도 하지 않습니다. 설정만 제공할 뿐이죠. OpenAI에서 제공하는 AI나 자체 호스팅된 AI가 필요합니다.
OpenAI의 모델은 원하시는 서비스를 제공하지 않으므로, 자체 호스팅으로 가야 합니다. 기술적 역량이 필요할 뿐만 아니라, 상당히 큰 VPS가 필요하기 때문에 비용이 많이 들게 됩니다.
즉, 이걸 사용하려면 두 번째 링크의 셀프호스팅 가이드에서 ‘Docker’ 명령어를 설치해야 하는 건가요? 플러그인만 설치하면 안 되는 건가요? (저는 셀프호스팅을 하고 있습니다)
그런 식이지만, 훨씬 더 복잡합니다.
제가 제대로 이해하고 있다면, 플러그인과 'Docker’만으로는 부족하다는 뜻인가요?
네, 실제 AI가 필요합니다.
의심이 들면, 먼저 Open AI에서 키를 받아서 모든 것을 직접 시도해 보고, 나중에 더 복잡한 작업인 로컬 LLM 엔진 배포에 도전하세요:
- 제 이해가 맞다면, 셀프호스팅 환경에서 특정 API를 올바르게 활성화하려면 Docker 명령어를 사용하여 설치해야 하는 것이 맞나요?
예를 들어, 독성 AI(detoxify)의 경우, "docker run -it --rm --name detoxify -e BIND_HOST=0.0.0.0 -p6666:80 Package detoxify · GitHub"를 설치해야 합니다.
1-1. 이 경우, 엔드포인트 값을 그대로 두어도 괜찮은가요? - “docker run -it --rm --name detoxify -e BIND_HOST=0.0.0.0 -p6666:80 Package detoxify · GitHub” 이 명령어는 discourse 디렉터리에서 실행해야 하나요? 아니면 루트 디렉터리에서 실행해야 하나요?
지금 작성하신 것은 게이트웨이 역할만 하는 것에 불과합니다. 어딘가에 AI 자체를 포함해야 합니다. 그리고 원하는 결과를 얻으려면 직접 하나를 호스팅하는 것이 좋습니다. 그리고 요구량이 실제로 매우 높으므로 별도의 VPS를 시작하여 거기에 해당 AI를 설치해야 합니다.
따라서 그렇게 했다면, 이제 docker 명령어를 제대로 조정하면 준비가 완료됩니다.
하지만 AI는 docker나 Discourse의 일부가 아닙니다.
아마도 Rober가 제안한 대로 OpenAI로 시작하는 것이 좋겠습니다. 그리고 나서 어느 시점에 전환을 고려해 볼 수 있습니다.
참고로, 여러분이 찾고 있는 그 기능들은 여러분이 생각하는 것만큼 신뢰할 수 있지 않습니다. 그리고 비용은 최소 월 60달러 이상이며, 아마도 300달러 이상이 더 현실적인 숫자일 것입니다.
답장 주셔서 감사합니다