Bots indésirables

À ma connaissance, je n’ai activé aucune fonctionnalité d’IA. Mais soudainement, il y a un grand nombre de comptes bots que je n’ai pas créés. Ces comptes sont apparus après la dernière série de mises à jour. Pourquoi ont-ils été créés et comment puis-je m’en débarrasser ? Je n’ai aucun besoin de l’IA pour le forum.

Ils font partie de la construction, que vous les utilisiez ou non. Récemment, un compte unique pour l’agent a été scindé en comptes individuels pour les fonctionnalités concernées.

Autre chose que j’ai remarquée : si le système vous le permet, je ne vois pas pourquoi vous ne pourriez pas les supprimer, ainsi que leurs dépendances, si vous n’en avez jamais l’intention de vous servir.

C’est un élément qui devient essentiel à la plateforme ; je ne peux même pas imaginer la lutte contre le spam sans l’agent IA.

Je pense toujours qu’il serait idéal de pouvoir utiliser un seul et même utilisateur pour tous les bots IA.

Les garder séparés par agent rend leur utilisation depuis le chat ou les messages personnels extrêmement compliquée.

Vous pourriez simplement créer votre propre agent et y lier les outils intégrés de Discourse requis.

Je suis également adepte de la philosophie « moins, c’est plus », mais il y a quelque chose à dire en faveur de l’approche agentique, qui est spécifique aux tâches. Selon moi, cela améliore la précision et la cohérence.

Ce changement est volontaire.

Nous créions auparavant des utilisateurs pour chaque modèle de langage, ce qui était très source de confusion et difficile à expliquer.

Désormais, nous créons un utilisateur pour chaque agent IA ayant l’option AI Bot activée. C’est une situation bien plus facile à comprendre.

Vous avez un utilisateur pour « forum helper » parce que vous autorisez les utilisateurs à discuter avec « forum helper ».

Je sais que c’était perturbant, mais au moins la nouvelle situation actuelle est beaucoup plus simple à expliquer.

Oui, je comprends qu’il y a des limitations techniques de temps à autre et que la nouvelle situation actuelle est meilleure que l’originale. Je suis reconnaissant pour tout le travail que l’équipe principale a mis dedans.

J’ai fini par ajouter Jev et utiliser un bot Senior pour déléguer des tâches aux sous-agents. Ce n’était pas possible auparavant, et je suis content de le tester.

Je trouve plutôt inquiétant qu’une instance Discourse auto-hébergée puisse soudainement créer une douzaine de comptes de bots IA sans que je sois informé ni que j’y aie consenti, surtout lorsque je n’utilise aucune fonctionnalité liée à l’IA.

Ce qui rend la situation encore plus préoccupante, c’est que ces comptes sont créés avec des niveaux de confiance élevés, apparemment sans aucune communication claire préalable aux administrateurs.

À quel moment une installation auto-hébergée cesse-t-elle de ressembler à quelque chose que je contrôle réellement ? Est-ce toujours ma plateforme, exécutée sur mon propre infrastructure, ou suis-je simplement censé accepter les modifications que Discourse décide d’introduire, que je le veuille ou non ?

Je comprends parfaitement la nécessité des mises à jour et des améliorations de sécurité, mais créer silencieusement des comptes privilégiés pour des fonctionnalités que je n’ai jamais activées est une tout autre affaire.

Je pense que l’équipe Discourse devrait au moins fournir des instructions claires sur la manière dont les administrateurs peuvent supprimer en toute sécurité ces comptes indésirables, empêcher leur recréation et annuler efficacement cette modification.

Cela aurait vraiment dû être une option facultative (opt-in), et non quelque chose que les administrateurs découvrent par accident en parcourant leur liste d’utilisateurs.

Vous pouvez facilement supprimer tous les bots en procédant ainsi :

  1. Décochez l’option « bot IA activé » sur le bot concerné.

  1. Supprimez l’utilisateur

Il ne reviendra pas.

Les comptes système font partie de toute mise à jour, mais je conviens que ce changement aurait dû être plus visible au-delà d’une simple entrée sur GitHub — même si je l’ai peut-être manquée.

L’apparition d’un lot de nouveaux utilisateurs — nous effectuons également des analyses pour détecter les comptes spam créés en masse — a suscité quelques inquiétudes, mais il a suffi d’examiner les détails et de contacter le support pour clarifier la situation.

En tant que plateforme hébergée, j’aimerais que ce processus soit un peu plus transparent. Il existe de nombreux moyens de communiquer les changements à venir qui permettraient d’éviter des inquiétudes inutiles.

Je comprends, ce changement est difficile à mettre en œuvre de manière pratique dans une prochaine mise à jour, mais je peux publier des notes de version.

J’ai supprimé tous les comptes de service que nous avions créés pour les LLM. C’était une source majeure de complexité et de confusion : chaque fois qu’un LLM était publié, un compte bizarre comme gpt-6.1-bot était créé. En revanche, les agents avec lesquels vous interagissez ont désormais besoin de comptes de service.

Je vais voir si nous pouvons modifier l’expérience d’installation initiale pour activer moins de bots IA. Peut-être que le bot assistant du forum par défaut suffit, et que nous laissons aux administrateurs le soin de découvrir tous les autres agents.

Je réfléchis à tout ça.

Bonjour,

Je n’arrive pas à trouver ce paramètre. J’ai désactivé toutes les fonctionnalités LLM dans la mesure du possible, ainsi que le « module de bot IA ». Pourtant, lorsque je supprime les utilisateurs bots, ils sont recréés le lendemain.

Merci d’avance.

Désolé pour ça, cela corrigera le problème afin que les utilisateurs ayant désactivé les bots IA ou l’IA ne reçoivent plus de messages de ces bots :

Merci, Sam. J’apprécie vraiment que tu aies pris les retours au sérieux et que tu aies corrigé cela aussi vite.

En y repensant, mon message initial était probablement un peu plus dur que nécessaire. Discourse est un excellent logiciel, et j’apprécie sincèrement le travail que toi et ton équipe y consacrez.

Les erreurs arrivent, et c’est bien de voir des développeurs écouter leur communauté et agir en fonction des retours. Merci encore !