Discourse AI support-il les API de relais/proxy tierces (ex: NewAPI) ? Obtention de "Internal Server Error"

Soutien
1

Bonjour à tous,

J’ai une question concernant Discourse AI et si celui-ci prend en charge les API de relais/proxy tierces.

J’ai essayé d’utiliser une API de relais de NewAPI (un proxy tiers compatible avec OpenAI), mais Discourse AI renvoie une « Erreur interne du serveur ». Je ne sais pas s’il s’agit d’un problème de configuration de mon côté ou d’une limitation de Discourse AI.

Je me demande donc :

  1. Discourse AI prend-il actuellement en charge les API tierces / de relais / de proxy compatibles avec OpenAI ?

  2. Ou ne prend-il en charge que les API officielles d’OpenAI et de Google pour le moment ?

  3. Si les API tierces sont prises en charge, une configuration spéciale est-elle requise (en-têtes, format de l’URL de base, dénomination des modèles, etc.) ?

L’utilisation de mes propres clés API officielles devient coûteuse, j’espère donc pouvoir utiliser une option de relais moins chère si possible.
J’aimerais également connecter Google BananaPro pour la génération d’images juste pour le plaisir — je ne sais pas si cela est pris en charge non plus.

Toute indication ou documentation serait appréciée. Merci !

2

Nous avons des clients qui effectuent des milliers d’appels d’IA quotidiennement via des proxys compatibles avec OpenAI, nous savons donc que cela fonctionne. Le principal problème est de savoir à quel point ils sont réellement compatibles lorsqu’ils disent “compatible avec OpenAI”.

vLLM, Google, Ollama, LMStudio fournissent tous des API compatibles avec OpenAI que nous testons et utilisons quotidiennement.

Si un fournisseur spécifique échoue, il est généralement facile de trouver la raison via les journaux sur la page /logs. Pouvez-vous partager l’erreur qui s’y trouve ?

1 « J'aime »
3

Merci pour votre réponse. Je vais tester quelques API tierces différentes demain

4

discourse ai supporte presque toutes les API tierces que je connais, telles que openrouter, newapi

il suffit de configurer les paramètres du LLM
image

entrez votre URL de base de l’API, votre clé d’API et le nom du modèle
image

1 « J'aime »
5

Merci pour votre réponse, mon ami.

image

Mais cette réponse est étrange.

Discourse doit remplir l’invite système, je ne veux pas remplir l’invite système, j’ai seulement entré un.

C’est-à-dire répondre directement à la question de l’utilisateur @, le modèle répond directement,

Je n’ai pas encore trouvé comment configurer cela.

Lorsque j’utilise @robot, je ne sais pas pourquoi l’invite par défaut est celle de l’invite personnalisée (car le format de sa réponse correspond uniquement à cette invite personnalisée) comme indiqué dans l’image ci-dessous : même après avoir modifié, cela n’a toujours aucun effet, je ne sais pas pourquoi.

image