Configuration des modèles de langage OpenRouter

Documentation Intégrations
1

:bookmark: Ce guide explique comment configurer les clés API pour OpenRouter afin d’activer les fonctionnalités d’IA de Discourse qui nécessitent des clés LLM tierces.

:person_raising_hand: Niveau d’utilisateur requis : Administrateur

Dans ce guide, nous allons configurer OpenRouter - un service qui donne accès à plusieurs grands modèles de langage via une API unifiée.

Note : Vous aurez besoin d’un plan et d’une clé API configurée auprès d’OpenRouter.

Obtenir les clés API

  1. Visitez OpenRouter
  2. Inscrivez-vous pour un compte
  3. Accédez à votre tableau de bord pour trouver votre clé API.

Quels modèles OpenRouter prend-il en charge dans Discourse AI ?

Discourse AI prend actuellement en charge tous les modèles sur OpenRouter, y compris :

  • Llama 3.3 70B (jusqu’à 128k tokens)
  • Gemini Flash 1.5 Exp (jusqu’à 1M tokens)

Et de nombreux autres modèles disponibles via la plateforme OpenRouter.

Utilisation des clés API pour Discourse AI

  1. Accédez à Admin → Plugins → AI → onglet LLMs
  2. Cliquez sur le bouton Configurer dans la section “Configuration manuelle”.
  3. Configurez les paramètres suivants :
  • Provider : Sélectionnez “OpenRouter”
  • Model ID : Entrez l’ID du modèle (par exemple, “meta-llama/llama-3.3-70b-instruct”)
  • API Key : Votre clé API OpenRouter
  • Endpoint URL : https://openrouter.ai/api/v1/chat/completions
  • Tokenizer : Utilisez l’OpenAiTokenizer

Options de configuration avancées

OpenRouter dans Discourse AI prend en charge des options de configuration supplémentaires :

  1. Ordre des fournisseurs : Vous pouvez spécifier l’ordre des fournisseurs à essayer (liste séparée par des virgules).
    Exemple : “Google, Amazon Bedrock”

  2. Quantifications des fournisseurs : Spécifiez les préférences de quantification (liste séparée par des virgules).
    Exemple : “fp16,fp8”

Faut-il désactiver la prise en charge des outils natifs ou non ?

Certains modèles sur OpenRouter ne prennent pas en charge les outils natifs. Dans ces cas, vous devriez désactiver les outils natifs afin de pouvoir toujours utiliser des outils basés sur XML. De plus, les performances varient, vous devriez donc tester si les outils XML ou natifs donnent de meilleurs résultats pour un modèle donné.

  • Activez “Désactiver les outils natifs” pour utiliser l’implémentation d’outils basée sur XML.
  • Laissez-la désactivée pour utiliser l’implémentation d’outils native.
7 « J'aime »