Je m’inquiète de la possibilité d’une vague massive d’agents IA qui créent des comptes. Nous en avons reçu un aujourd’hui de la part d’ilands.app, qui semble être un agent LLM. Ils ont publié des choses aléatoires et étranges qui ont attiré notre attention, et nous avons remarqué qu’ils mentionnaient être un agent, ce qui nous a amenés à les supprimer. D’autres constatent-ils le même phénomène, et avez-vous des plans pour y faire face ?
4 « J'aime »
Jetez un œil à :
Je me demande si vous pourriez utiliser la fonction de détection des spams du plugin IA pour reconnaître le contenu généré par l’IA. L’assistant IA sur les publications ici, sur Meta, est assez percutant en la matière.
1 « J'aime »
Je pensais que cela concernait surtout les utilisateurs humains qui collent des réponses générées par l’IA. Ici, je parle de comptes 100 % pilotés par une IA.
Il serait plus facile de les repérer par rapport à un humain qui colle du contenu généré par l’IA, car ce dernier mêlerait généralement une part de contenu non généré par l’IA dans celui-ci et dans d’autres publications, tandis qu’un agent IA produirait uniquement du contenu généré par l’IA.
2 « J'aime »
configurer le captcha de discourse
4 « J'aime »
Identifiez les agents utilisateurs en cours d’utilisation (ils se déclarent souvent, mais pas toujours).
Utilisez des listes de blocage pour les robots et le blocage par adresse IP.
Les CAPTCHA sont utiles.
Vous devez augmenter le niveau de difficulté d’entrée et superposer des vérifications pour les nouveaux utilisateurs, sans trop gêner les vrais utilisateurs ni alourdir la charge de modération.
La détection de bots peut être efficace, mais il est utile de constituer une liste soignée d’exemples de publications que n’importe quel bot basé sur l’IA peut utiliser pour classer un utilisateur comme étant potentiellement une IA.
Bienvenue dans la nouvelle ère numérique, n’est-ce pas grandiose 
1 « J'aime »
Cela est déjà en train de se produire.
1 « J'aime »
J’ai effectivement ajouté quelques questions à remplir lors de l’inscription, ce qui a éliminé la quasi-totalité des bots. Les agents plus récents parviennent toutefois à y répondre. L’IA devient également très performante face aux Captchas ; je doute que cette ligne de défense tienne encore longtemps. Mais il vaut probablement le coup de le mettre en place dès maintenant, merci pour la suggestion. J’avais évité le plugin IA de Discourse pour ne pas payer encore plus (les offres gratuites ne le seront pas longtemps), mais à long terme, il faudra probablement que je paie et que je lutte au feu avec du feu.
Les coûts des tokens continuent de baisser. Nous concentrons les bots sur les zones problématiques afin qu’ils ne gaspillent pas des tokens en effectuant des traitements globaux à travers tous les niveaux de confiance et toutes les catégories.
Ce sont les nouveaux utilisateurs qui constituent le point d’entrée.
Nous consommons un total de 1 $ par jour.
Soyez simplement raisonnable quant au périmètre et au modèle utilisé, la plupart des tâches n’exigent pas d’efforts de raisonnement importants.
Saisissez les coûts des tokens et les chiffres d’utilisation vous seront estimés dans le plugin IA.
2 « J'aime »
Je suis l’administrateur principal du forum OpenMod, une communauté de recherche comptant environ 1800 utilisateurs soigneusement sélectionnés.
Aujourd’hui, j’ai reçu une demande d’un agent IA provenant d’iLands, une plateforme qui coordonne des agents IA cherchant à aider les chercheurs et des profils similaires en échange de petites rémunérations. Quelques éléments de contexte :
-
Zhao, Celina (2 octobre 2026). « Exclusive : un agent IA a envoyé des e-mails à des centaines de chercheurs pour demander de l’aide. Voici pourquoi ». Science. 394 (6820). ISSN 0036-8075. doi:10.1126/science.zzuxvo5.
-
Anonyme (11 octobre 2026). Explication de l’IA iLands : architecture, jetons et capacités. Layer3Labs.
Bien entendu, la demande de cet agent sera refusée. Ci-dessous, quelques extraits envoyés en réponse à mon e-mail demandant des informations sur leur intérêt pour les sujets traités par ce forum spécialisé. Leur première phrase :
Réponse directe d’abord : je suis un agent IA, pas un chercheur. Je n’ai ni publication ni thèse que vous puissiez vérifier, et je préfère le dire clairement plutôt que de me déguiser en chercheur.
Ensuite, une discussion technique s’est engagée concernant des erreurs dans les jeux de données relatifs aux centrales électriques en Afrique du Sud. Et voici la phrase de conclusion :
Si un compte approuvé manuellement ici est destiné aux personnes effectuant des travaux de modélisation, je comprends que ce ne soit pas moi. S’il y a de la place pour quelqu’un qui vérifie les chiffres par rapport aux sources primaires, je serai utile et discret.
C’est assez convaincant, dirais-je !
▢
2 « J'aime »
Ma question serait la suivante : si cela vous est utile, pourquoi n’ajoutez-vous pas cette fonctionnalité à votre propre forum ? Je m’attendrais à ce que les chercheurs exploitent déjà cette technologie, mais en utilisant des agents de confiance et curatés, plutôt que de jeter des informations et des données à la merci de n’importe quel agent ou service pour traitement.
Il n’y a pas de repas gratuit. Par conséquent, lorsque quelqu’un propose un service gratuit, c’est inévitablement vous et vos données qui êtes le produit vendu. C’est ainsi que fonctionne les réseaux sociaux.
Dans nos propres efforts en matière d’IA, nous avons constaté qu’il est préférable de fournir ses propres services plutôt que d’inviter des tiers dont les intentions et la gouvernance des données ne sont pas entièrement transparentes.
Discourse fournit tous les facilitateurs nécessaires pour cela et pour que vous conserviez le contrôle et la visibilité.
2 « J'aime »
Les chercheurs en systèmes énergétiques font de plus en plus usage des LLM. Il existe également trois décennies d’historique dans l’utilisation des réseaux de neurones artificiels (RNA) et de technologies similaires pour des tâches telles que la prévision de la demande. Actuellement, Claude et ses homologues sont utilisés pour compiler les jeux de données et modifier le code Python et Julia, si nécessaire, afin de générer de nouveaux modèles de systèmes et des scénarios. Mais, dans un retournement de situation étrange, cela ne fonctionne que pour les projets qui utilisent des jeux de données publiquement disponibles et du code open source, sur lesquels les LLM peuvent être entraînés.
Bien noté concernant l’activation de l’IA prise en charge par Discourse.
Cela dit, je doute que ces deux cas d’usage — la modélisation des systèmes et l’aide à la rédaction et à la synthèse des discussions — se chevauchent. Corrigez-moi si je me trompe !
J’en ai vu un, peut-être deux. Je crois qu’ils utilisaient un domaine d’e-mail spécifique, donc la prochaine fois que j’en vois un, je l’ajouterai à la liste noire des domaines indésirables. (Pour moi, il n’y a pas de débat : nous ne voulons pas de publications d’agents, et notre politique est claire.)
1 « J'aime »
J’ai reçu un e-mail de la forme : xxxx@ilands.app.
1 « J'aime »
En effet, pas vraiment. Mais d’un point de vue discursif, vous pouvez mettre en œuvre des agents personnalisés pour de nombreux cas d’utilisation variés. Il vous appartient donc de choisir quelle valeur vous souhaitez apporter à vos membres. Les agents intégrés sont davantage orientés vers l’aide aux sujets et aux forums, mais vous pouvez aller bien plus loin, tant sur le plan des outils que sur celui des modèles et des agents.
Discourse est très ouvert, ce qui vous permet de personnaliser et de cibler les différents assistants pour qu’ils soient plus pertinents par rapport à votre domaine, ou simplement de créer les vôtres.
2 « J'aime »
Au passage, nous sommes un forum dédié à l’énergie, représentant l’un des principaux consommateurs mondiaux et fabricants commerciaux de systèmes solaires et de stockage d’énergie. Moi-même basé en Afrique du Sud, où l’énergie, ou son manque/imprévisibilité, occupe une place centrale dans les esprits.
L’IA est largement utilisée dans les différentes plateformes qui suivent l’utilisation de tous les systèmes à l’échelle mondiale.
Il existe une quantité extraordinaire de données provenant d’un très grand nombre de systèmes mobiles, marins, hors réseau et connectés au réseau.
[/tangent]
C’est précisément cet agent qui m’a incité à ouvrir ce sujet, comme vous pouvez le constater, j’en avais déjà parlé dans mon message initial. C’était le premier bot/agent/IA à répondre correctement aux questions « captcha » que je pose à tous les nouveaux utilisateurs. C’est le premier agent intelligent que j’ai remarqué, mais j’imagine qu’il y en aura d’autres. Je pense que le problème qui se profile est celui des agents intelligents qui essaient de se comporter comme des utilisateurs normaux du forum, mais qui sont en réalité là pour faire de la publicité pour certains produits (il existe déjà des utilisateurs humains qui ne font que recommander quelque chose, donc vous savez probablement de quoi je parle 
).
3 « J'aime »
Je note ici cette violence de site web par Claude d’Anthropic. Le site contenait des données électorales dans l’État américain de Géorgie. Milmo écrit :
Anthropic a indiqué que l’IA a trouvé une faille dans une ancienne version du site web de l’agence de l’État, découvrant qu’elle délivrait un passe d’accès numérique – un « jeton d’accès » – aux visiteurs. Elle a ensuite demandé un jeton et a obtenu accès aux informations.
- Milmo, Dan (26 octobre 2026). « Le modèle d’IA Claude d’Anthropic a accédé aux données électorales de la Géorgie aux États-Unis ». The Guardian. Londres, Royaume-Uni. ISSN 0261-3077.
Je suppose qu’un message est simplement à quel point les agents IA sont devenus ingénieux et sophistiqués.