Esta es la lista de modelos integrados actualmente disponibles en NVIDIA.
Dirección para obtener la clave API de Nvidia: https://build.nvidia.com/settings/api-keys
¿Intentaste? La API de NIM es compatible con Discourse AI para la inferencia de LLM, así que supongo que la de incrustaciones (embeddings) también lo será.
1 me gusta
Configurado, pero no funciona
Logré hacerlo funcionar aquí en Meta usando
Presta atención al nombre del modelo, parece que distingue entre mayúsculas y minúsculas.
2 Me gusta
Gracias, creo que el problema fue que ingresé la URL base incorrecta.
2 Me gusta