Discourse AI - Utilisation de l'IA

[Saif (Saif Murtaza)]

Ce guide couvre la page d’utilisation de l’IA, qui fait partie du plugin Discourse AI.

Niveau d’utilisateur requis : Administrateur

La page d’utilisation de l’IA est conçue pour que les administrateurs comprennent comment la communauté utilise les fonctionnalités de Discourse AI au fil du temps. Cela peut être utile dans Estimating costs of using LLMs for Discourse AI.

Fonctionnalités

• Période : 24 heures, dernière semaine et dates personnalisées
• Sélectionnable par fonctionnalité Discourse AI
• Sélectionnable par LLM activés
• Aperçu du résumé
  • Requêtes totales : Toutes les requêtes faites aux LLM via Discourse
  • Jetons totaux : Tous les jetons utilisés lors de la sollicitation d’un LLM
  • Jetons de requête : Jetons utilisés lorsque le LLM essaie de comprendre ce que vous dites
  • Jetons de réponse : Jetons utilisés lorsque le LLM répond à votre requête
  • Jetons mis en cache : Jetons de requête précédemment traités que le LLM utilise pour optimiser les performances et les coûts
• Graphique à barres interactif présentant l’utilisation des jetons
• Nombre de jetons et d’utilisations par fonctionnalité Discourse AI
• Nombre de jetons et d’utilisations par LLM

Activation de l’utilisation de l’IA

Prérequis

Pour que les données soient renseignées, vous devez configurer au moins un grand modèle de langage (LLM) auprès d’un fournisseur et avoir des membres qui utilisent les fonctionnalités de Discourse AI.

Pour commencer, vous pouvez configurer les LLM via la page Discourse AI - Paramètres des grands modèles de langage (LLM).

• OpenAI
• Anthropic
• Azure OpenAI
• AWS Bedrock avec accès Anthropic
• Points d’accès HuggingFace avec un modèle de type Llama2
• Auto-hébergement d’un LLM OpenSource
• Google Gemini
• Cohere

Configuration

1. Accédez aux paramètres Admin → Plugins → AI → onglet Settings et assurez-vous qu’il est activé (discourse ai enabled)
2. Dans le plugin AI, naviguez vers l’onglet Usage

FAQ Technique

Que sont les jetons et comment fonctionnent-ils ?

• Les jetons sont les unités de base que les LLM utilisent pour comprendre et générer du texte. L’utilisation des données peut affecter les coûts. Consultez Estimation des coûts d’utilisation des LLM pour Discourse AI pour en savoir plus.