希望ai插件可以支持nvidia的嵌入向量模型

这些是目前NVIDIA可用的嵌入模型列表。

Nvidia API KEY 获取地址: Try NVIDIA NIM APIs

你试过了吗?NIM API 与 Discourse AI 兼容,可用于 LLM 推理,所以我想嵌入(embeddings)那个可能也兼容。

1 个赞

配置了,用不了

我设法让它在 Meta 上运行起来,使用了

image

请注意模型名称,它似乎区分大小写。

2 个赞

感谢,我发现问题应该是我填错了baseurl

2 个赞