DiscourseAIのための自己ホスティング埋め込み

[Isambard]

容量を節約するために、量子化された埋め込みを使用することは可能ですか？ストレージサイズを大幅に削減するために、バイナリ量子化された埋め込みを使用したいと思います。いくつかのテストを行ったところ、ストレージサイズが32分の1で90%以上のパフォーマンスが得られました！