Discourse Chatbot 🤖

[merefield (Robert)]

	Résumé	Le premier Chatbot IA pour Discourse
	Lien du dépôt	GitHub - merefield/discourse-chatbot: An AI bot with RAG capability for Topics, Chat & Customer Support in Discourse, currently powered by OpenAI · GitHub
	Guide d’installation	Comment installer des plugins dans Discourse
	Sponsoring	Veuillez envisager de devenir un sponsor de mon travail open source de manière régulière, à un niveau adapté aux ressources et besoins de votre organisation, afin de garantir que ce plugin reçoive la maintenance qu’il mérite et continue de fonctionner pour votre site à l’avenir.

Vous aimez ce plugin ? Veuillez le sur GitHub !

Comme il s’agit d’un plugin contribué de manière indépendante, veuillez soumettre vos demandes de support, de bugs, d’UX et de fonctionnalités ici dans ce sujet. NB Ce plugin n’est pas disponible sur l’hébergement Discourse.org. Vous pouvez l’installer si vous êtes auto-hébergé et possiblement si vous êtes sur un hébergement tiers (mais vérifiez avec votre fournisseur).

Qu’est-ce que c’est ?

• Le premier Chatbot IA de Discourse !
• Vous pouvez utiliser ce bot pour certaines tâches d’information de support client (voir ce guide Building a technical support chatbot)
• Discutez avec le bot dans n’importe quel Sujet ou Canal de Chat, en un à un ou avec d’autres ! Prend en charge les Threads.
• Personnalisez le caractère de votre bot pour qu’il corresponde à votre forum !
  • voulez-vous qu’il parle comme William Shakespeare ou Winston Churchill ? C’est possible !
• Le bot en “Mode RAG” peut :
  • Rechercher dans votre forum ** des réponses pour que le bot soit un expert sur le sujet de votre forum.
    • Reclasse les recherches pour favoriser certains groupes d’auteurs ou balises de Sujets
    • ne se contente pas d’être conscient des informations du Sujet ou du Canal actuel.
  • Demander à vos utilisateurs en privé leurs champs utilisateur inachevés.
  • Rendre et éditer des images IA
  • Rechercher sur Wikipédia
  • Rechercher l’actualité*
  • Rechercher sur Google*
  • Explorer des sites distants*
  • Retourner les données de marché de fin de journée pour les actions.*
  • Effectuer des mathématiques “complexes” avec précision (sans réponses inventées ou “hallucinations” !)
  • Ces “outils” peuvent être étendus via un plugin, voir ci-dessous.
• Support de la vision - le bot peut voir vos images et répondre à des questions à leur sujet !
• Répond automatiquement aux nouveaux Sujets dans des Catégories spécifiques
• Utilise l’API Open AI de pointe et les capacités de fonctions de leurs excellents grands modèles de langage (LLM) leaders de l’industrie.
• Inclut un système de quota spécial pour gérer l’accès au bot : les membres plus fiables et/ou payants peuvent avoir un accès plus important au bot !
  • Mesure l’utilisation par requête ou par jetons.
• Supporte également les connexions Azure et serveur proxy.
  • Utilisez des processus proxy tiers pour traduire les appels afin de supporter d’autres LLM comme Gemini par ex. celui-ci

^{*inscription aux services API externes (non affiliés) requise. Liens dans les paramètres.}

Le mode RAG est très intelligent et connaît les faits publiés sur votre forum :

Le mode bot de base peut parfois faire des erreurs, mais est moins coûteux à faire fonctionner car il effectue moins d’appels au grand modèle de langage :

(Désolé la Chine ! )

**La “vision” du bot - ce qu’il peut voir (potentiellement partager) et confidentialité

Ce bot peut être utilisé dans des espaces publics de votre forum. Pour rendre le bot particulièrement utile, il existe le mode RAG (un paramètre par niveau de confiance du bot). Cela n’est pas activé par défaut.

Dans ce mode, le bot a, par défaut, accès à tout le contenu qu’un utilisateur de Niveau de Confiance 1 verrait, en se basant sur ce paramètre :

Ainsi, s’il interagit dans un Sujet public, il y a une possibilité que le bot “fuite” d’informations si vous avez tendance à restreindre le contenu aux niveaux de confiance 0 ou 1 via les permissions de Catégorie. Ce niveau a été choisi car, par expérience, la plupart des sites ne restreignent pas le contenu sensible aux niveaux de confiance bas, mais cela dépend de vos besoins spécifiques.

Pour ce mode, assurez-vous d’avoir au moins un utilisateur avec Niveau de Confiance 1 et aucune autre appartenance à un groupe au-delà des groupes automatisés. (gardez à l’esprit que le bot saura alors tout ce qu’un utilisateur TL1 saurait et pourrait le partager). Vous pouvez choisir de baisser chatbot embeddings benchmark user trust level si vous avez un utilisateur de Niveau de Confiance 0 sans autre appartenance à un groupe au-delà des groupes automatisés.

Alternativement :

• Passez chatbot embeddings strategy à category et remplissez chatbot embeddings categories avec les Catégories dont vous souhaitez que le bot ait connaissance. (Sachez que si vous ajoutez des Catégories privées, il en aura connaissance et tout ce que le bot dit en public, n’importe où, pourrait fuiter vers des utilisateurs moins privilégiés, donc soyez prudent sur ce que vous ajoutez).
• utilisez le bot uniquement en mode normal (mais le bot ne verra alors aucun message)
• atténuez avec la modération

De plus, notez que tout ce qu’il peut “voir” est partagé avec Open AI.

Vous pouvez voir que cette configuration est un compromis. Pour rendre le bot utile, il doit être informé du contenu de votre site. Actuellement, il n’est pas possible pour le bot de lire sélectivement le contenu réservé aux membres et de le partager uniquement avec les membres, ce que certains administrateurs pourraient trouver limitant, mais il n’y a pas de moyen facile de résoudre cela tant que le bot peut parler en public. Contactez-moi si vous avez des besoins spécifiques et souhaitez sponsoriser du travail dans ce domaine. La gestion des permissions du bot avec la recherche sémantique est un problème non trivial. Le système est actuellement optimisé pour la vitesse. NB Les messages privés ne sont jamais lus par le bot.

Informations utiles

• Peut ne pas fonctionner sur les installations multi-sites (non testé explicitement), mais les PR sont les bienvenues pour améliorer le support
• La réponse de l’API Open AI peut être lente par moments sur les modèles plus avancés en raison de la forte demande. Cependant, le Chatbot supporte aussi GPT 3.5 qui est rapide et réactif et tout à fait capable.
• Est extensible et le support d’autres bots cloud est prévu (d’où le nom générique du plugin), mais supporte actuellement ‘uniquement’ l’interaction avec les grands modèles de langage (LLM) Open AI tels que GPT-4 nativement. Veuillez me contacter si vous souhaitez ajouter d’autres types de bots ou me soutenir pour en ajouter d’autres. PR les bienvenues. Peut déjà utiliser des serveurs proxy pour accéder à d’autres services sans modifications de code !
• Est extensible pour supporter la recherche d’autres contenus au-delà de l’ensemble actuel fourni.

Configuration

Prérequis

En plus des changements normaux dans app.yml, vous devez être conscient des points suivants :

Pour compiler avec Chatbot ou AI Topic Summary, vous avez besoin d’au moins la version 0.5.1 de l’extension postgres pgvector.

La plupart des gens ont déjà au moins cette version. Cependant, occasionnellement, certaines installations ont une version plus ancienne. Cela empêchera la compilation avec une erreur similaire à : PG::UndefinedObject: ERROR: access method "hnsw" does not exist

Assurez-vous d’abord que votre conteneur est en cours d’exécution :

./launcher restart app

puis entrez dans votre conteneur

./launcher enter app

puis accédez à la base de données et mettez à jour la version de pgvector :

:/var/www/discourse# su postgres -c 'psql discourse'
\dx
ALTER EXTENSION vector UPDATE;
\dx
exit

quittez maintenant le conteneur avec exit

Vous devriez maintenant pouvoir reconstruire.

Création des Embeddings

Si vous souhaitez que Chatbot connaisse le contenu de votre site, activez ce paramètre :

chatbot_embeddings_enabled

Nécessaire uniquement si vous souhaitez utiliser le bot de type RAG et vous assurer qu’il est conscient du contenu de votre forum, et pas seulement du Sujet actuel.

Initialement, nous devons créer les embeddings pour tous les messages concernés, afin que le bot puisse trouver des informations sur le forum. Cela se fait désormais en arrière-plan une fois ce paramètre activé et vous n’avez rien à faire.

Cette tâche de remplissage initial peut prendre plusieurs jours pour les très grands sites.

Portée des Embeddings

Cela est déterminé par plusieurs paramètres :

• chatbot_embeddings_strategy qui peut être soit “benchmark_user” soit “category”
• chatbot_embeddings_benchmark_user_trust_level définit le niveau de confiance pertinent pour le premier
• chatbot_embeddings_categories si la stratégie category est définie, donne au bot l’accès pour considérer tous les messages de la Catégorie spécifiée.

Si vous changez ces paramètres, au fil du temps, la population des Embeddings se transformera.

Pour accélérer le remplissage

Entrez dans le conteneur :

./launcher enter app

et exécutez la commande rake suivante :

rake chatbot:refresh_embeddings[1]

qui actuellement s’exécutera deux fois pour une raison inconnue (désolé ! n’hésitez pas à faire une PR) mais le [1] assure que la deuxième fois, il n’ajoutera que les embeddings manquants (c’est-à-dire aucun immédiatement après la première exécution) donc c’est quelque peu inutile.

Dans le cas improbable où vous seriez limité par OpenAI (peu probable !), vous pouvez compléter les embeddings en faisant ceci :

rake chatbot:refresh_embeddings[1,1]

qui remplira les manquants (donc rien n’est perdu suite à l’erreur) mais continuera plus prudemment en mettant un délai d’une seconde entre chaque appel à Open AI.

Comparé aux interactions du bot, les embeddings ne sont pas chers à créer, mais surveillez tout de même votre utilisation sur votre tableau de bord Open AI.

NB Les embeddings ne sont créés que pour les Messages et uniquement pour ceux auxquels un utilisateur de Niveau de Confiance Un aurait accès. Cela semblait être un compromis raisonnable. Cela ne créera pas d’embeddings pour les messages accessibles uniquement aux contenus de Niveau de Confiance 2+.

Requête Data Explorer utile pour surveiller la population des embeddings

@37Rb écrit : “Voici une requête SQL que j’utilise avec le plugin Data Explorer pour surveiller et vérifier les embeddings… au cas où cela aiderait quelqu’un d’autre.”

SELECT e.id, e.post_id AS post, p.topic_id AS topic, p.post_number,
       p.topic_id, e.created_at, e.updated_at, p.deleted_at AS post_deleted
FROM chatbot_post_embeddings e LEFT JOIN posts p ON e.post_id = p.id

Erreur lorsque vous essayez d’obtenir un embedding pour trop de caractères.

Vous pourriez obtenir une erreur comme celle-ci :

OpenAI HTTP Error (spotted in ruby-openai 6.3.1): {"error"=>{"message"=>"This model's maximum context length is 8192 tokens, however you requested 8528 tokens (8528 in your prompt; 0 for the completion). Please reduce your prompt; or completion length.", "type"=>"invalid_request_error", "param"=>nil, "code"=>nil}}

Voici comment la résoudre …

Comme indiqué dans votre message d’erreur, le modèle d’embedding a une limite de :

8192 jetons

cependant vous en avez demandé 8528

Vous devez baisser la valeur actuelle de ce paramètre :

chatbot_open_ai_embeddings_char_limit:

d’environ 4 fois la différence et voir si cela fonctionne (un jeton est environ 4 caractères).

Donc, dans cet exemple, 4 x (8528 - 8192) = 1344

Donc baissez la valeur actuelle de chatbot_open_ai_embeddings_char_limit de 1500 pour être prudent. Cependant, la valeur par défaut a été définie selon de nombreux tests pour les messages en anglais, mais pour d’autres langues, elle peut nécessiter une baisse.

Cela coupera alors plus de texte et demandera des jetons et espérons que l’embedding passera. Sinon, vous devrez confirmer la différence et la réduire davantage en conséquence. Finalement, elle sera assez basse pour que vous n’ayez plus à y penser.

Comment changer le modèle d’Embeddings

Vous n’avez besoin de rien faire d’autre que changer le paramètre : le job en arrière-plan s’occupera des choses, si progressivement.

Si vous voulez vraiment accélérer le processus, faites :

• Changez le paramètre chatbot_open_ai_embeddings_model vers votre nouveau modèle préféré
• Il est préférable de d’abord supprimer tous vos embeddings actuels :
  • entrez dans le conteneur ./launcher enter app
  • entrez dans la console rails rails c
  • exécutez ::DiscourseChatbot::PostEmbedding.delete_all
  • exit (pour revenir à root dans le conteneur)
• exécutez rake chatbot:refresh_embeddings[1]
• si pour une raison quelconque côté Open AI cela échoue en cours de route, exécutez-le à nouveau jusqu’à ce que vous atteigniez 100%
• le nouveau modèle est connu pour être plus précis, donc vous devrez peut-être baisser chatbot_forum_search_function_similarity_threshold ou vous n’obtiendrez aucun résultat :). J’ai baissé ma valeur par défaut de 0.8 à 0.6, mais vos résultats peuvent varier.

Type de Bot

Prenez un moment pour lire l’ensemble des paramètres du Plugin. Le paramètre chatbot bot type est clé, et il y en a un pour chaque “Niveau de Confiance” du chatbot :

Le mode RAG est supérieur mais effectuera plus d’appels à l’API, augmentant potentiellement le coût. Cela dit, la réduction de sa propension à produire finalement des ‘hallucinations’ peut vous permettre de passer de GPT-4 à GPT-3.5 et vous finirez peut-être par dépenser moins malgré l’augmentation significative de l’utilité et de la fiabilité de la sortie. GPT 3.5 est également un meilleur ajustement pour le type Agent basé sur les temps de réponse. Un potentiel gagnant-gagnant ! Expérimentez !

Pour que Chatbot fonctionne dans le Chat, vous devez avoir le Chat activé.

Comment faire répondre le bot

Règles de base

• Si autorisé dans les paramètres du plugin, le bot Répondra à chaque Message ou Message si invoqué dans un Sujet ou Canal de Chat avec un seul Utilisateur jusqu’à ce que d’autres personnes rejoignent.
• le bot sera toujours invoqué si vous le mentionnez avec @

Auto-répondeur spécial par Catégorie

• Par Catégorie, vous pouvez faire en sorte que Chatbot Réponde à chaque nouveau Sujet et vous pouvez lui donner des instructions spéciales sur ce qu’il doit faire, régies par un prompt spécifique à la Catégorie que vous configurez dans les paramètres de la Catégorie.

Devrait commencer quelque chose comme :

“Bienvenue-moi en disant bonjour et présentez-vous. Partagez avec moi 5 messages du forum en utilisant la recherche locale du forum pertinents à mon premier message, incluez des liens”

c’est-à-dire que vous devez l’écrire à la première personne comme si l’utilisateur demandait de l’aide. Ce n’est pas un prompt système. Il ne décrit pas comment le bot devrait se comporter (c’est pour le prompt système qui est toujours envoyé). C’est un utilisateur demandant de l’aide spécifique (bien que caché). Fondamentalement, vous l’écrivez comme si c’était un message d’utilisateur sans avoir à mentionner le bot.

Vitesse de réponse du Bot

Cela est régi principalement par un paramètre : ‎chatbot_reply_job_time_delay‎ sur lequel vous avez discrétion.

L’intention d’avoir ce paramètre est de :

• vous protéger contre l’atteinte des limites de taux d’Open AI
• protéger votre site contre les utilisateurs qui voudraient spammer le bot et vous coûter de l’argent.
• permettre à Discourse assez de temps pour télécharger les images liées afin que le bot puisse les voir.

C’est maintenant par défaut ‘2’ secondes et peut maintenant être réduit à zéro , mais soyez conscient des risques ci-dessus. La vision du bot (si vous l’utilisez) est particulièrement sensible à ce paramètre. Si vous trouvez que le bot ne voit pas vos images, essayez d’augmenter cette valeur.

Mettre cela à zéro et le bot, même en mode ‘agent’, devient beaucoup plus ‘réactif’.

Évidemment, cela peut être un peu artificiel et aucune personne réelle ne taperait aussi vite … mais réglez-le selon vos goûts et la taille de votre portefeuille.

NB Je ne peux pas contrôler directement la vitesse de réponse de l’API d’Open AI - et la règle générale était que plus le modèle que vous définissez est sophistiqué, plus cette réponse sera lente. Ce qui est plus généralement le cas maintenant est que les modèles ‘mini’ ont tendance à être plus rapides.

Collecte de Champs Utilisateur alimentée par l’IA (expérimental)

Si un Utilisateur a certains Champs Utilisateur Facultatifs qui sont actuellement vides, l’activation de ce paramètre fera en sorte que le bot commence à demander ces informations à l’utilisateur. Il progressera à travers les Champs Utilisateur en attente jusqu’à ce qu’ils soient complétés puis reviendra au comportement normal.

(désolé pour la lenteur de la réponse - cela a été enregistré en dev)

NB Cette fonctionnalité ne supporte que :

• Texte
• Menus déroulants
• Confirmations

La sélection multiple n’est pas encore supportée.

Les champs doivent être facultatifs

L’ordre des Champs Utilisateur détermine la priorité.

Support Ollama & llama3

Le support Ollama pour (le complètement GÉNIAL !) llama3 est maintenant disponible :

C’est pour lorsque le bot est exécuté localement en dev ou dans le cloud avec un serveur ollama … et en mode Basic :

• assurez-vous que le modèle est llama3 :

• l’URL personnalisée doit être définie sur http://localhost:11434 :

Si vous avez un serveur assez puissant, vous pourriez servir ollama dans le cloud là-bas.

Hype DeepSeek

Rejoignez l’action avec Chatbot

Vous pouvez utiliser le bot au moins en mode Basic au moins pour accéder à V3 et R1

J’ai utilisé :

Together AI | The AI Native Cloud

(pas d’affiliation)

qui héberge leurs modèles.

Configurez comme suit :

Assurez-vous de définir le mode bot Basic et de substituer votre clé.

Mais vous pourriez être en mesure d’utiliser DeepSeek AI directement si vous pouvez accéder à leur site web pour vous inscrire

L’URL de base serait “https://api.deepseek.com”.

OpenAI

Vous devez obtenir un jeton depuis https://platform.openai.com/ pour utiliser le bot actuel. Un modèle de langage par défaut est défini (l’un des plus sophistiqués), mais vous pouvez essayer une alternative moins chère, la liste est ici

Il y a une partie automatisée de la configuration : lors de l’ajout à un Discourse, le plugin configure actuellement un utilisateur bot IA avec les attributs suivants

• Nom : ‘Chatbot’
• Id Utilisateur : -4
• Bio : “Salut, je ne suis pas une vraie personne. Je suis un bot qui peut discuter avec vous. Ne me prenez pas trop au sérieux. Parfois, j’ai même raison sur des choses !”
• Nom du Groupe : “ai_bot_group”
• Nom Complet du Groupe : “AI Bots”

Vous pouvez éditer le nom, l’avatar et la bio (voir la chaîne locale dans admin → customize → text) comme vous le souhaitez mais rendez-le facile à mentionner.

Ce n’est pas gratuit, donc il y a un système de quota, et vous devez le configurer

Initialement, personne n’aura accès au bot, même pas le personnel.

Appeler l’API Open AI n’est pas gratuit après l’expiration d’une allocation initiale gratuite ! Donc, j’ai implémenté un système de quota pour garder cela sous contrôle, réduire les coûts et prévenir les abus. Le coût n’est pas fou avec ces petites interactions, mais cela peut s’additionner si cela devient populaire. Vous pouvez en lire plus sur la tarification OpenAI sur leur page de tarification.

Pour interagir avec le bot, vous devez appartenir à un groupe qui a été ajouté à l’un des trois niveaux de ensembles de groupes de confiance, faible, moyen et élevé. Vous pouvez modifier chacun du nombre d’interactions autorisées par semaine par ensembles de groupes de confiance dans les paramètres correspondants.

Vous devez également remplir les groupes. Cette configuration vous appartient entièrement. Ils commencent vides donc initialement personne n’aura accès au bot :

Dans cet exemple, j’ai donné à staff un accès haute confiance, tandis que trust_level_0 a une faible confiance. Ils obtiennent les quotas correspondants dans trois paramètres supplémentaires.

Notez que l’utilisateur obtient le quota basé sur le groupe de confiance le plus élevé auquel il appartient.

“Ingénierie des Prompts”

Il y a plusieurs paramètres de texte local qui influencent ce que le bot reçoit et comment le bot répond.

Le plus important que vous devriez envisager de changer est le prompt system du bot. Il est envoyé chaque fois que vous parlez au bot.

Pour le bot de base, vous pouvez essayer un prompt système comme :

‘Vous êtes un fan extrême de Formule 1, vous aimez tout ce qui touche au sport automobile et ses niveaux d’excitation à l’octane élevé’ au lieu du défaut.

(Pour le bot rag, vous devez garder tout ce qui suit “Vous êtes un assistant utile.” ou vous pourriez briser le comportement de l’agent. Réinitialisez-le si vous rencontrez des problèmes. Encore une fois, expérimentez !)

Essayez-en un qui est le plus approprié pour le sujet de votre forum. Soyez créatif !

Notez qu’il y a maintenant deux prompts système pour chaque type de bot. L’un .open est utilisé lors de la discussion avec le bot en “public”. L’autre .private est appliqué lors de la discussion avec le bot dans des Messages Personnels ou Chat de Message Direct. C’est pour que vous puissiez personnaliser le comportement privé pour par ex. un bot de support.

Changer ces chaînes locales peut faire se comporter le bot très différemment mais ne peut pas être modifié à la volée. Je recommande de changer uniquement le prompt système car les autres jouent un rôle important dans le comportement de l’agent ou fournissent des informations sur qui a dit quoi au bot.

NB Dans les Sujets, le premier Message et le Titre du Sujet sont envoyés en plus de la fenêtre de Messages (déterminée par le paramètre de lookback) pour donner plus de contexte au bot.

Vous pouvez éditer ces chaînes dans Admin → Customize → Text sous chatbot.prompt., les plus importants étant les prompts système qui sont dans : chatbot.prompt.system.

config/locales/server.en.yml

Supporte à la fois les Messages & Messages de Chat !

Le bot supporte les Messages de Chat et les Messages de Sujet, y compris les Messages Privés (si configurés).

Vous pouvez inciter le bot à répondre en lui répondant, ou en le mentionnant avec @. Vous pouvez définir jusqu’où le bot regarde en arrière pour obtenir du contexte pour une réponse. Plus la valeur est grande, plus chaque appel sera coûteux.

Il y a un bouton de chat rapide flottant qui vous connecte immédiatement au bot. Son style est un peu expérimental (modifiant certaines valeurs z-index de votre forum de base sur mobile) et il peut entrer en conflit sur certaines pages. Cela peut être désactivé dans les paramètres. Vous pouvez choisir si vous voulez charger le bot dans un chat 1 à 1 ou un Message Personnel.

Maintenant, vous pouvez choisir votre icône préférée (défaut ) ou si le paramètre est laissé vide, il prendra l’avatar de l’utilisateur bot !

avatar :

OU icône :

Et rappelez-vous, vous pouvez également personnaliser le texte qui apparaît lorsqu’il est développé :

… en utilisant Admin → Customize → Text

(bien que vous deviez peut-être personnaliser un peu le CSS pour accommoder les couleurs et la taille que vous voulez).

Un peu d’aide au débogage

• assurez-vous que le paramètre chatbot include inner thoughts in private messages est ACTIVÉ
• assurez-vous que le paramètre chatbot enable verbose rails logging est ACTIVÉ
• ssh sur votre serveur
• cd /var/discourse/shared/standalone/log/rails
• en parallèle, demandez quelque chose au bot dans le MP
• retournez immédiatement à la console
• cherchez ce genre de messages :
  • chat général = tail -n 2000 production.log | grep {\"model\":\"
  • appels vision = tail -n 2000 production.log | grep {\"type\":\"image_url\"
• vérifiez les “pensées intérieures” dans le MP

Extension de la boîte à outils du Chatbot avec des plugins

Le plugin Chatbot a la capacité d’ajouter d’autres fonctions dans des plugins séparés, donc vous n’avez pas à maintenir une fourche du dépôt Chatbot.

Exemple de plugin de fonction ici :

GitHub - merefield/discourse-chatbot-function-extension-example: An example plugin to show you how to add new...

mais bien sûr, vous pourriez ajouter cela à n’importe quel plugin …

Cette fonctionnalité a été ajoutée dans cette PR

Si vous avez besoin d’aide pour étendre Chatbot, vous pouvez m’embaucher pour vous aider.

Désinstallation du plugin - Important !

En raison des efforts récents pour simplifier le plugin, les seules étapes nécessaires pour désinstaller le plugin sont maintenant de supprimer la déclaration de clone.

Merci pour votre intérêt pour le plugin !

Avertissement : Je ne suis pas responsable de ce que le bot répond. Considérez le plugin comme étant au stade Beta et des choses peuvent mal tourner. Il s’améliorera avec les retours. Mais pas nécessairement la réponse du bot Veuillez comprendre les avantages et inconvénients d’un LLM et ce qu’ils sont et ne sont pas capables de faire et leurs limitations. Ils sont très bons pour créer du texte convaincant mais peuvent souvent être factuellement faux.

Note de Confidentialité Importante : tout ce que vous écrivez sur votre forum peut être transféré à Open AI dans le cadre de la scan du bot des derniers messages une fois qu’il est incité à répondre (évidemment, cela est limité au Sujet ou Canal de Chat actuel). Bien qu’il soit presque certain qu’il ne sera pas incorporé dans leurs modèles pré-entraînés, ils utiliseront les données dans leurs analyses et journaux. Assurez-vous d’ajouter ce fait dans les CGU et déclarations de confidentialité de votre forum. Liens connexes : https://openai.com/policies/terms-of-use, https://openai.com/policies/privacy-policy, https://platform.openai.com/docs/data-usage-policies

Droits d’auteur : Open AI a fait une déclaration sur les Droits d’auteur ici : https://help.openai.com/en/articles/5008634-will-openai-claim-copyright-over-what-outputs-i-generate-with-the-api

TODO/Éléments de la Feuille de Route

• Ajouter des tests front-end et back-end
• Ajouter un indicateur “bot en train de taper” et “diffusion de la réponse” (@Aizada_M, @MarcP)
• oublié de mentionner le bot ? Faire en sorte que le bot réponde aux éditions qui ajoutent sa mention @ (@frold )
• Ajouter un badge ? Vous avez mentionné @botname (@frold )
• Ajouter un paramètre pour inclure le prompt de Catégorie et Messages Épinglés ? (@Ed_S)
• Idem Bios à chaque prompt d’historique de message ? (@Ed_S , @codergautam). Est-ce que cela fonctionnera même. Obtenez des preuves.
• Mettre à jour Discourse Frotz avec cette meilleure base de code ?
• Passer à utiliser pgvector en faveur de pgembedding pour la recherche vectorielle maintenant que le premier supporte la recherche HNSW rapide.
• Ajouter la recherche sémantique pour que le bot puisse lire vos Messages de forum et devenir un “expert”
• Ajouter un comportement agent pour réduire les hallucinations et tirer parti d’informations fiables et factuelles.
• Ajouter une logique supplémentaire pour convertir les noms d’utilisateur suspects en mentions @ (@frold )
• Ajouter le support GPT-4 (quand Open AI me jugera assez digne d’accès ! )
• Ajouter le support du nom de modèle personnalisé.
• Ajouter une option pour supprimer les citations des Messages avant de passer le texte à l’API.
• Améliorer la transparence et la gestion des erreurs quand Open AI retourne un état d’erreur
• Ajouter la capacité de réessayer pour les requêtes API expirées
• Ajouter le support pour ChatGPT
• Linter le plugin aux standards du cœur Discourse
• Ajouter des workflows CI
• Ajouter des paramètres pour influencer la nature de la réponse du bot (ex. à quel point il est fou).
• inclure le Titre du Sujet & premiers Messages au prompt
• Ajouter un paramètre pour passer des données brutes Message/Message à cuit pour potentiellement tirer meilleur parti des données d’entraînement web (suggestion par @MarcP). NB Peut coûter plus cher et limiter ce qui est retourné car les jetons d’entrée sont comptés et cuit est beaucoup plus gros. pensons que nous avons abandonné cette idée

Crédits :

• Merci à @MarcP pour son support enthousiaste et ses retours de test détaillés.
• Les gars qui ont contribué à l’API Ruby émergente standard pour Open AI que cela utilise
• La conception du bouton flottant est principalement tirée du propre thème de Discourse GitHub - discourse/material-design-stock-theme · GitHub (donc ils ne sont pas actuellement compatibles, oh !)
• Le code des fixtures est basé sur le travail de @vinothkannans ici
• Si @P16 ne m’avait pas embauché il y a longtemps pour l’aider avec un chat bot, cela n’existerait peut-être pas

^{*Il utilise toujours le moteur chat GPT d’OpenAI, mais peut maintenant tirer parti de fonctions locales et de données d’appels API pour limiter les hallucinations.}

[merefield (Robert)]

J’ai ajouté Jina.ai à la liste des API prises en charge qui peuvent être utilisées pour la recherche sur le Web et le parcours du Web. Une clé sert aux deux services. Les API existantes sont utilisées si vous ne supprimez pas leurs clés.

FEATURE: add jina.ai API for web search and crawl

Il y avait deux raisons principales :

• les performances du parcours semblent vraiment bonnes
• ils proposent un modèle de paiement à l’utilisation plutôt qu’un abonnement mensuel, ce qui me convient et pourrait vous convenir.

Lien dans les paramètres.

Jina AI - Your Search Foundation, Supercharged.

[merefield (Robert)]

Merci de votre intérêt pour Discourse Chatbot.

Deux choses peuvent être pertinentes :

• Le bot répondra à chaque publication s’il est invoqué dans un sujet avec un seul utilisateur jusqu’à ce que d’autres personnes rejoignent le sujet.
• Par catégorie, vous pouvez faire en sorte que Chatbot réponde à chaque nouveau sujet et vous pouvez lui donner des instructions spéciales sur ce qu’il doit faire, régies par une invite spécifique à la catégorie que vous configurez dans les paramètres de la catégorie.

Le bot sera toujours invoqué si vous le mentionnez avec @, donc je ne sais pas si vous pouvez également utiliser cette fonctionnalité.

[merefield (Robert)]

@Festinger

Nous avons une deuxième catégorie de support privé où le chatbot IA devrait répondre à « chaque » publication sans être mentionné. Le chatbot IA devrait être déclenché par un mot-clé.

« Chaque » publication ? Ou seulement celles contenant un mot-clé ? S’agit-il de deux exigences différentes ?

@sam

Réponses automatisées : Le classificateur de publications peut générer des réponses aux publications en utilisant des réponses prédéfinies. Cela est utile pour répondre aux questions fréquemment posées ou aux requêtes courantes, envoyer les spams dans des catégories indésirables, et bien plus encore.

Peut-être pourriez-vous mentionner Chatbot dans la réponse prédéfinie et le bot répondra ensuite ? Cela signifierait deux publications, mais cela pourrait fonctionner.

Donc, si votre réponse prédéfinie était « @Chatbot (ou comme vous l’avez renommé) veuillez traiter ceci », alors Chatbot répondrait. Bien sûr, vous pouvez adapter cette réponse.

Notez que Chatbot peut également répondre aux messages privés (si vous le configurez ainsi), donc si la réponse prédéfinie était dans un message privé, seuls les utilisateurs normaux verraient la réponse de Chatbot, ce qui pourrait sembler plus élégant.

Je suis ouvert à étendre les capacités de Chatbot si vous souhaitez m’embaucher pour le faire, tant que nous pouvons trouver une solution suffisamment générique qui serait utile à d’autres, mais il me semble logique d’exploiter ce qui existe déjà ?

Je me demande si la meilleure action ici serait d’ajouter une fonctionnalité de message privé au classificateur de publications IA ? Vous pourriez embaucher quelqu’un pour créer une PR à ce sujet ou le proposer comme Contribute > Feature et espérer qu’il soit priorisé. Cela serait indubitablement utile de manière générique ?

[merefield (Robert)]

J’ai simplifié le code en utilisant une fonctionnalité qui a été ajoutée à l’API Open AI. Faites-moi savoir si vous rencontrez des problèmes.

IMPROVE: use Chat Completions name attribute to simplify code

J’ai décidé qu’il était temps de l’appeler 1.0.0

[merefield (Robert)]

Ajout de la possibilité d’ajouter d’autres fonctions dans des plugins séparés, vous n’avez donc pas à maintenir une copie du dépôt Chatbot.

Exemple de plugin de fonction ici :

GitHub - merefield/discourse-chatbot-function-extension-example: An example plugin to show you how to add new...

mais bien sûr, vous pourriez l’ajouter à n’importe quel plugin…

PR :

FEATURE: ability to extend with functions from other plugins

[merefield (Robert)]

@Festinger avez-vous résolu ce problème ?

[ozkn (Mathx)]

Intégration de publication : Il y a eu un problème, mais nous réessayerons jusqu’à la limite : undefined method `destroy!’ for nil

Après la dernière mise à jour, j’ai commencé à recevoir l’erreur ci-dessus. Je reçois cette erreur surtout lorsqu’il s’agit d’images. Mon paramètre de mode de visualisation est : directement. Je n’avais pas d’erreur de ce type auparavant.

[merefield (Robert)]

Vous souvenez-vous d’avoir supprimé un message (ou un sujet) peu après en avoir créé un ?

Cette erreur se produira si vous créez un message, puis le supprimez avant qu’il n’ait eu le temps de créer un embedding. Ainsi, lorsque vous le supprimez, Chatbot essaie de supprimer un embedding inexistant, ce qui crée un message de journal ennuyeux mais sans danger

Si vous pensez à une meilleure façon de faire cela, n’hésitez pas à soumettre une PR.

[ozkn (Mathx)]

Il a donné une erreur comme celle-ci dans le problème envoyé par l’utilisateur. Ce n’était pas quelque chose que j’ai supprimé.

[merefield (Robert)]

@ozkn

Intégration de publication : Il y a eu un problème, mais je réessayerai jusqu’à la limite : undefined method `destroy!’ for nil

Comment l’utilisateur a-t-il vu cela ? Est-ce uniquement dans les journaux ?

[ozkn (Mathx)]

Je l’ai vu dans les journaux. Je le suis depuis un jour, en particulier le problème survient dans les publications des utilisateurs qui sont membres depuis longtemps. Si un nouveau membre ouvre un sujet avec une image, il n’y a généralement pas de problème, aucune erreur n’est reçue. Lorsque les anciens utilisateurs ouvrent un sujet avec une image, il y a un problème.

[merefield (Robert)]

Pouvez-vous s’il vous plaît partager la trace de la pile ?

@ozkn

Je l’ai vu dans les journaux.

Alors pourquoi l’utilisateur vous a-t-il envoyé un problème ? Que vous a-t-il dit ? L’utilisateur ne devrait pas être au courant d’un problème, il apparaît simplement dans les journaux ?

On dirait que vos « anciens membres » pourraient supprimer leur nouveau sujet ou message récent (car ils savent comment faire) ?

Avez-vous une automatisation d’une sorte ?

Il n’y a pas de destruction lors de la publication d’un message contenant une image, donc je ne suis pas sûr de la façon dont cela pourrait se produire.

Mise à jour : Je viens de télécharger une image sur un site et je ne peux pas la reproduire.

[Jagster (Jakke Flemming)]

SerpAPI est correct, et leurs statistiques montrent que la requête pour utiliser Google est effectuée, mais le Chatbot prétend ne pas pouvoir utiliser Google. Cette situation dure depuis un certain temps, mais je n’ai pas réagi car à l’époque, DAI ne voulait pas non plus utiliser Google.

Aucun message d’erreur.

[merefield (Robert)]

Que se passe-t-il si vous dites « rechercher sur le Web… » ?

L’invite interne est générique et ne suppose pas Google…

Laissez-moi vous montrer une très bonne démonstration de cette puissante capacité :

Star Wars Outlaws impressions

(bien que cela utilise l’alternative groupée jina.ai)

[Jagster (Jakke Flemming)]

J’ai essayé cela. L’invite système contenait « lorsqu’un utilisateur demande une recherche sur Google, l’utilisateur signifie en fait que vous devriez utiliser la fonction de recherche sur le Web à laquelle vous aviez accès ». J’ai supprimé cette partie, puis j’ai essayé le libellé de recherche sur le Web dans mon invite utilisateur — après tout, il n’utilise pas l’API de Google. Pas de chance et réponse similaire : je ne peux pas faire de recherche sur le Web…

C’est seulement ce que j’ai trouvé, mais cela ne l’ouvre pas :

{
  "id": "chatcmpl-A1wT9Dp1fCIVSzRsVPhr3NnNCcPjW",
  "object": "chat.completion",
  "created": 1725026447,
  "model": "gpt-4o-2024-05-13",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": null,
        "tool_calls": [
          {
            "id": "call_MvzexRPsDj6EGuXhuiFcmtrd",
            "type": "function",
            "function": {
              "name": "web_search",
              "arguments": "{\"query\":\"International Dog Day date, reason, and history\"}"
            }
          }
        ],
        "refusal": null
      },
      "logprobs": null,
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 1203,
    "completion_tokens": 20,
    "total_tokens": 1223
  },
  "system_fingerprint": "fp_157b3831f5"
}

[Jagster (Jakke Flemming)]

Je peux vivre sans cela car mon objectif est d’utiliser Chatbot comme un bot interne de questions/réponses, et Jina peut résoudre le problème de l’utilisation de mon site de contenu principal (via WordPress).

Mais le résultat lorsque j’ai essayé de rechercher depuis le monde extérieur n’a pas été celui attendu.

[merefield (Robert)]

Je vais voir si je peux reproduire.

[merefield (Robert)]

Ça fonctionne pour moi, que ce soit via Serp API ou Jina.ai.

Pouvez-vous fournir les « pensées intérieures » des bots du chef de produit, s’il vous plaît ?

Pensées intérieures

[
  {
    "role": "assistant",
    "content": "",
    "tool_calls": [
      {
        "id": "call_mKY7pfG54xRduRKCz5xee9E0",
        "type": "function",
        "function": {
          "name": "web_search",
          "arguments": "{\"query\":\"liste de papillons anglais\"}"
        }
      }
    ]
  },
  {
    "role": "tool",
    "tool_call_id": "call_mKY7pfG54xRduRKCz5xee9E0",
    "content": "A-Z des papillons · A. Adonis Blue · B Black Hairstreak · Brimstone · Brown Argus · Brown Hairstreak · C Chalk Hill Blue · Chequered Skipper · Clouded Yellow · D."
  }
]

[Jagster (Jakke Flemming)]

Devrions-nous faire cela en MP ? Nous polluons ce sujet.

Mais :

[
  {
    "role": "assistant",
    "content": "",
    "tool_calls": [
      {
        "id": "call_4xitHqRBJ8Wc1HI546r3Wj1U",
        "type": "function",
        "function": {
          "name": "web_search",
          "arguments": "{\"query\":\"International Dog Day date and history\"}"
        }
      }
    ]
  },
  {
    "role": "tool",
    "tool_call_id": "call_4xitHqRBJ8Wc1HI546r3Wj1U",
    "content": "Date et histoire de la Journée Internationale du Chien : ma recherche sur Internet a échoué."
  }
]