Esta é a lista de modelos de incorporação atualmente disponíveis na NVIDIA.
Endereço para obter a Chave de API da Nvidia: https://build.nvidia.com/settings/api-keys
Você tentou? A API NIM é compatível com o Discourse AI para inferência de LLM, então eu diria que a de embeddings também pode ser.
1 curtida
Configurado, mas não funciona
Consegui fazer funcionar aqui no Meta usando
Preste atenção no nome do modelo, parece que diferencia maiúsculas de minúsculas.
2 curtidas
Obrigado, descobri que o problema deve ser que eu preenchi o baseurl incorretamente.
2 curtidas