L'IA de Discourse sort des rails

C’est exactement la question que je chercherais à résoudre si j’étais un administrateur suivant un signalement de ce type.

Je suis administrateur sur un autre forum hébergé par Discourse, donc je vais faire un peu de recherche.



J’ai également demandé à ChatGPT de vérifier ma réponse, et il a ajouté ce qui suit. Je vais maintenant le vérifier, mais je voulais vous le transmettre pour que vous n’ayez pas à attendre.

D’après la documentation de Discourse AI, les administrateurs peuvent inspecter les modèles configurés sous :

Admin → Plugins → Discourse AI → LLMs

Les fonctionnalités de Discourse AI sont également soutenues par des personas, et un persona peut être configuré pour utiliser un LLM particulier. La configuration actuelle de la fonctionnalité IA peut indiquer quel persona et quel LLM alimentent une fonctionnalité spécifique.

Références utiles :

Ce que je n’ai pas encore trouvé, c’est une méthode documentée permettant à un utilisateur ordinaire d’inspecter une conversation « Help AI » terminée et de voir le modèle exact qui a géré cette interaction spécifique.

Si quelqu’un sait si ces informations sont exposées aux utilisateurs, aux administrateurs, ou dans les journaux du site pour une requête individuelle, veuillez l’ajouter ici. Ce serait utile pour des signalements de ce type.


En examinant la section générée par IA ci-dessus, que je laisse inchangée par transparence, j’apporterais quelques corrections.

D’abord, je supprimerais le lien Discourse AI – Bot IA. Il ne semble pas nécessaire pour répondre à la question spécifique concernant le modèle utilisé.

Je supprimerais également :

Ce que je n’ai pas encore trouvé, c’est une méthode documentée permettant à un utilisateur ordinaire d’inspecter une conversation « Help AI » terminée et de voir le modèle exact qui a géré cette interaction spécifique.

Cette limitation n’est pas particulièrement pertinente ici, car vous avez mentionné être administrateur, ce qui vous donne accès à des informations de configuration auxquelles un utilisateur ordinaire n’aurait pas accès.

Enfin, maintenant que je sais où trouver les détails de configuration pertinents, je supprimerais également :

Si quelqu’un sait si ces informations sont exposées aux utilisateurs, aux administrateurs, ou dans les journaux du site pour une requête individuelle, veuillez l’ajouter ici. Ce serait utile pour des signalements de ce type.

À ce stade, la voie la plus utile est d’inspecter la configuration de Discourse AI et de déterminer quels LLM sont assignés à la fonctionnalité « Help AI ».