벡터 데이터베이스가 무엇인지 궁금해하시는 분들을 위해 공유드립니다.
참고: 이 자료는 상용 벡터 데이터베이스 벤더에서 제공한 것이지만, 제가 아는 가장 훌륭한 소개 자료이며 OpenAI가 사용하는 것과 동일한 벡터 데이터베이스에 대한 내용입니다.
트랜스포머 모델에서 벡터가 무엇을 의미하는지 이해하려면 아래 기술적인 YouTube 영상을 참고하세요.
4개의 좋아요
우리는 discourse-ai에서 https://github.com/pgvector/pgvector를 사용 중이지만, 장기적으로는 weaviate / elastic / milvus 같은 다른 아이디어도 고려해 보고 있습니다.
Pinecone은 Discourse 사용자입니다 
https://community.pinecone.io/
11개의 좋아요
hey @sam 네, 맞아요. 우리는 Discourse의 만족스러운 고객이며, GPT-4와 가장 흔한 조합 중 하나가 바로 언급하신 사용 사례입니다 — 로고와 고객 후기를 우리 홈페이지에서 확인해 보세요. POC에 도움을 드릴까요?
8개의 좋아요
물론입니다. @Falco와 연결해 드리니, 그와 상의해 보세요.
discourse-ai가 pinecone 어댑터도 함께 제공되면 좋겠습니다. 이렇게 하면 우리 플랫폼을 자체 호스팅하는 사용자들의 마찰을 크게 줄일 수 있습니다.
7개의 좋아요
트레이닝 비용에 대해 잘 조사하신 것 같지만, OpenAI의 파인튜닝 가이드를 바탕으로 한 제 이해를 공유해 드리고 싶습니다. Model optimization | OpenAI API 문서를 제가 올바르게 이해했다면, 분류 작업에는 Ada를 사용하고 각 클래스당 100개의 예시를 제공하도록 권장하고 있습니다. 이 경우 총 200개의 예시(스팸과 비스팸)가 필요하게 됩니다. 예시 하나당 평균 500개의 토큰을 가정하면, Ada를 사용할 때의 총 토큰 수는 500 * 200 = 100,000개가 되며, 트레이닝 비용은 0.04달러입니다. 대신 Davinci를 사용한다면 비용은 3.00달러가 됩니다.
아마 이 가격표는 트레이닝의 단일 단계나 단일 에포크에 대한 것일 것 같지만, 웹사이트에서 더 자세한 정보를 찾지 못했습니다. 혹시 관련 통찰이 있거나 제가 무언가를 잘못 이해했다면 알려 주세요.
2개의 좋아요
앞서 말씀드린 것처럼, 그 비용은 내 비즈니스에서 내 사용 사례에 대한 것이었습니다. 제 학습 및 사용은 Ada가 아니라 Davinci이므로,那里的 비용이 75배 더 비쌌습니다. 또한 우리는 요청당 토큰을 거의 최대치까지 사용하고 있습니다.
Sam/Falco가 그들의 사용 사례에서 정확히 어떤 내용을 염두에 두고 있는지 정확히 알 수는 없지만, 규모가 커지면 파인튜닝이 비용이 많이 들 수 있다는 점을 일반적으로 언급하고 싶었을 뿐입니다!
2개의 좋아요
@sam & @Falco님, 출시를 진심으로 축하드립니다! 
Weaviate의 평가를 통해 Discourse를 지원할 수 있어 기쁩니다!
7개의 좋아요