Demande de configuration : résumé IA dans Discourse et intégration LLM

[S.AAKASH_MUTHIAH]

Bonjour l’équipe de support Discourse,

J’ai quelques questions concernant l’utilisation de la résumé par IA dans Discourse, et j’apprécierais votre aide pour me guider dans le processus de configuration :

1. Comment initialiser le résumé par IA :

   • Quelles étapes dois-je suivre pour activer et configurer le résumé par IA dans Discourse ?
   • Des plugins sont-ils nécessaires pour commencer avec le résumé par IA ? Si oui, lesquels et où puis-je les trouver ?

2. Utilisation de notre propre LLM (depuis Dify) :

   • Est-il possible d’intégrer notre LLM personnalisé, créé via l’application Dify, pour les tâches de résumé dans Discourse ? Si oui, comment pouvons-nous le faire en utilisant une API ?
   • Pouvez-vous fournir une documentation API ou des guides d’intégration pour connecter des LLM tiers à Discourse ?

3. Coût des modèles d’IA dans Discourse :

   • Modèles LLM disponibles : Quels sont les différents modèles de résumé par IA disponibles dans Discourse et comment choisir entre eux ?
   • Modèles gratuits vs payants : Certains modèles LLM sont-ils gratuits, ou y a-t-il un coût associé à tous ?
   • Restrictions d’utilisation : Y a-t-il des limitations d’utilisation pour les modèles gratuits, telles que des limites de requêtes quotidiennes ou des restrictions de jetons ?
   • Métriques de coût : Quelle est la structure tarifaire pour chaque modèle, y compris les coûts par requête ou par jeton ? S’il existe plusieurs niveaux de tarification, pouvez-vous fournir une ventilation pour chaque modèle ?

4. Informations supplémentaires :

   • Veuillez me faire savoir s’il y a des considérations supplémentaires ou des étapes que je dois suivre pour utiliser pleinement les fonctionnalités de résumé par IA dans Discourse.

Merci d’avance pour votre aide !

[NateDhaliwal]

Salut @S.AAKASH_MUTHIAH , la plupart de vos questions peuvent trouver réponse dans la documentation du plugin AI ici.

---

@S.AAKASH_MUTHIAH

Quelles sont les étapes à suivre pour activer et configurer la résumé par IA dans Discourse ?

Voir :

Discourse AI - Summarize

This topic covers the configuration of the Summarize feature of the Discourse AI plugin. Required user level: Administrator Summarize topics and chat channels for a quick recap. Use it in mega topics and large discussions to figure out what’s happening. [Chat channel summarize option] Features Summarize topics from topic map (top and bottom of topic) Summarize Chat channels for specific duration of time (up to 7 days) Cached summaries in prior gen…

Et :

Summarize - Gists

This guide explains how to enable and configure Gists, which is part of the Summarize feature of the Discourse AI plugin. Required user level: Administrator This feature isn’t yet available on discourse.org hosting Gists are short AI summaries to help you get a quick overview from topic lists. Features Auto backfills short summaries of topics Toggleable between compact and expanded (with AI summary) topic views Available for all topic views, …

---

@S.AAKASH_MUTHIAH

Y a-t-il des plugins requis pour commencer avec la résumé par IA ? Si oui, lesquels et où puis-je les trouver ?

Oui, le plugin ai. Il est inclus dans le cœur si vous êtes à jour, allez simplement sur /admin/plugins pour l’activer et le configurer.

---

@S.AAKASH_MUTHIAH

Modèles LLM disponibles : Quels sont les différents modèles de résumé par IA disponibles dans Discourse et comment choisir entre eux ?

What LLM to use for Discourse AI?

It’s important to understand the needs of you as the community admin and your members when choosing a Large Language Model (LLM) to power Discourse AI features. Several factors may influence your decisions: Performance for use-case: Are you looking for the best-performing model? Performance can vary depending on the task (e.g., summarization, search, complex reasoning, spam detection). Assessment is based on the model’s ability to generate correct, relevant, and coherent responses. Context …

---

@S.AAKASH_MUTHIAH

Modèles gratuits vs payants : Certains des modèles LLM sont-ils gratuits, ou y a-t-il un coût associé à tous ?

La plupart sont payants, mais vous pouvez jeter un œil à OpenRouter, qui propose également certains modèles gratuits.

---

@S.AAKASH_MUTHIAH

Restrictions d’utilisation : Y a-t-il des limitations d’utilisation pour les modèles gratuits, telles que des limites de requêtes quotidiennes ou des restrictions de jetons ?

Autant que je sache, cela dépendra de votre fournisseur, mais si je ne me trompe pas, vous pouvez également imposer des limites dans Discourse.

Peut-être voir :

Estimating costs of using LLMs for Discourse AI

In order to use certain Discourse AI features, users are required to use a Large Language Model (LLM) provider. Please see each AI feature to determine which LLMs are compatible. If cost is a significant worry, one way to combat that is to set usage limits right from the vendor and use a monthly budget. Another option is to only let select users and groups access the AI features There are several variable factors to consider when calculating the costs of using…

---

@S.AAKASH_MUTHIAH

Métriques de coût : Quelle est la structure tarifaire pour chaque modèle, y compris les coûts par requête ou par jeton ? S’il existe plusieurs niveaux de tarification, pouvez-vous fournir une ventilation pour chaque modèle ?

Cela dépendra de votre fournisseur de LLM IA ; ils sont différents.

---

Consultez toute la documentation du plugin AI ici.

Pour les paramètres proposés dans le plugin, consultez ce guide.

---

J’espère que cela vous aidera !

[S.AAKASH_MUTHIAH]

Bonjour,
Merci beaucoup pour votre réponse rapide et utile !

J’ai vérifié les options du plugin sur mon instance Discourse, mais je ne vois rien lié à l’IA répertorié là. J’ai joint une image montrant les options de plugin disponibles de mon côté — pourriez-vous s’il vous plaît y jeter un œil et me faire savoir si quelque chose me manque ?

[NateDhaliwal]

Êtes-vous sur la dernière version ayant passé les tests ?

[S.AAKASH_MUTHIAH]

ma version actuelle

[NateDhaliwal]

Essayez de mettre à jour votre forum et voyez si cela fonctionne.

[S.AAKASH_MUTHIAH]

Merci, ça fonctionne maintenant.

J’ai une question. J’ai créé un workflow sur DIFY et je souhaite maintenant utiliser l’API de ce workflow pour intégrer mon propre LLM. Pourriez-vous également me dire dans quel format l’entrée doit être envoyée ?
Et où ajouter l’API.
Et quelle option faut-il cliquer pour configurer la nôtre.

[S.AAKASH_MUTHIAH]

J’ai trouvé une chose, est-ce sur cette page que je dois configurer les paramètres ?

Si oui, quelle option dois-je sélectionner dans cette liste déroulante ?

[NateDhaliwal]

Si vous choisissez « Configuration manuelle » sur la page LLMs, et que vous y mettez vos clés, est-ce que cela fonctionne ?

Je n’ai pas utilisé le plugin IA depuis un moment, donc ma mémoire est un peu floue.

[S.AAKASH_MUTHIAH]

Je voudrais comprendre le type d’entrée qui sera envoyé au point de terminaison de l’API depuis Discourse.

[tobiaseigen]

@S.AAKASH_MUTHIAH comment ça se passe pour la mise en place de l’IA sur votre site ? Je vais programmer la clôture de ce sujet - vous pourrez toujours créer de nouveaux sujets lorsque vous aurez de nouvelles questions.

Comme @NateDhaliwal l’a souligné, bon nombre de vos questions trouvent réponse dans la documentation. Veuillez vous y référer avant de poser des questions.

[tobiaseigen (Tobias Eigen) A fermé ce sujet ()]

Ce sujet a été automatiquement fermé après 6 jours. Les nouvelles réponses ne sont plus autorisées.