L’autre sujet, qui demandait aux administrateurs de la communauté s’ils autorisaient les réponses générées par IA, m’a fait réfléchir. Avec la nouvelle fonctionnalité de flux de travail et quelques autres atouts, comme un plugin de gamification personnalisé, il ne serait pas difficile de mettre en place un système où les vrais humains reçoivent des votes de respect de la part des autres utilisateurs, tandis que l’IA est désapprouvée. Plus un utilisateur a de respect, plus son vote, qu’il soit positif ou négatif, a de poids.
Le système de confiance intégré à Discourse est essentiellement la même chose.
J’ai pu constater de mes propres yeux comment les spammeurs essaient de tricher. Ils publient un sujet sur l’IA, puis votent en faveur de leur propre sujet en utilisant un autre compte. L’IA spamme elle-même
Mon système de « respect » serait-il lui aussi manipulé, ou pensez-vous qu’il pourrait s’autoréguler, encourager l’interaction humaine et alléger la charge de travail des administrateurs ?
Le plugin Post Voting semble fonctionner très bien avec ça.
Je me demande s’il existe des comptes alimentés par l’IA au point qu’ils aiment des publications, interagissent et atteignent le niveau TL3. Car si c’est le cas, cela pourrait poser problème.
Peut-être que la solution serait alors de modifier les critères de promotion en fonction du nombre de points collectés. Mais cela représenterait un changement fondamental dans l’ensemble du système. Cela encouragerait une gamification plus agressive (au sens propre) du forum pour gagner des points. Mais tu sais, publier activement du bon contenu non généré par l’IA pourrait aussi être une bonne chose…
Le défi, c’est que de plus en plus de personnes utilisent une IA pour formuler leurs pensées. On le constate à travers le nombre croissant de personnes qui copient-collent un sujet dans le composeur — j’ai d’ailleurs un bot capable de consulter cette métrique, ce qui ajoute une autre dimension à vérifier concernant le caractère « IA » d’un message.
Lorsque les humains deviennent de simples relais et croient que le contenu numériquement traité qu’ils fournissent est le leur, un système de respect s’effondre.
Pour que cela fonctionne, il faut une base commune, ou un système de valeurs, partagé par tous les membres d’un forum. À mon avis, c’est tout simplement impossible dans un grand groupe de personnes, encore moins dans une communauté en ligne.
Je pense que les marionnettes (comptes fantômes) et les cercles de vote sont déjà des pratiques humaines — et qu’elles deviendront inévitablement des pratiques des agents, s’ils constatent que cela sert leurs objectifs.
Je pense qu’il s’agit d’une course aux armements, donc d’une situation qui ne peut pas être gagnée, et que la question de savoir quelles contre-mesures valent la peine d’être déployées relève de l’économie.
J’ai peut-être déjà mentionné le système de méta-modération de Slashdot — j’en étais toujours assez impressionné. Il n’est probablement pas très différent d’un plugin de vote, mais il comporte peut-être des mécanismes supplémentaires. Slashdot était l’un des premiers sites populaires qui a dû faire face à ces problèmes — c’est un peu d’histoire dont nous pouvons tirer des leçons, si nous le souhaitons.
