Actuellement, certaines personnes peuvent essayer de téléverser des plugins, des thèmes ou des composants entièrement générés par des LLM sans le déclarer comme tel. Il existe de nombreuses raisons pour lesquelles il peut être utile de savoir si quelque chose a été entièrement généré par un LLM, et il n’existe actuellement aucune obligation de déclarer ces plugins comme tels. Personnellement, j’aimerais le savoir à l’avance afin de ne pas finir par installer un plugin de mauvaise qualité, présentant de nombreux problèmes de performance, d’optimisation ou d’expérience utilisateur, comme c’est souvent le cas avec les plugins générés par LLM.
Bien sûr, cela suppose que les gens soient honnêtes et transparents (et les personnes ayant des sujets générés par IA peuvent ne pas savoir mieux que ce qui est indiqué), mais l’ajout d’un tag comme #ai-généré sur les assets principalement générés par IA serait bénéfique pour tout le monde.
Je ne partage pas l’idée qu’un plugin généré par un LLM soit intrinsèquement de faible qualité ou qu’il souffre nécessairement de problèmes de performance, d’optimisation ou d’expérience utilisateur. La qualité du résultat dépend largement de la personne qui guide le LLM et qui examine sa sortie.
J’ai toujours pris soin du logiciel que je développe depuis 40 ans, et l’intégration des LLM dans mon flux de travail a amélioré la qualité de mon travail, pas l’inverse.
À l’inverse, j’ai vu de nombreux plugins écrits à la main, truffés de vulnérabilités de sécurité, de problèmes de performance et de mauvaises décisions de conception, où j’aurais sincèrement souhaité que l’auteur utilise un LLM. En fin de compte, ce qui compte, c’est la qualité du développeur et du code résultant, pas le fait qu’un LLM ait été impliqué dans sa rédaction.
Je me demande comment vous recommanderiez de relire et/ou de mettre à jour le code généré par des LLM, pour ceux d’entre nous qui se lancent dans le « vibe-coding » afin d’implémenter de nouvelles fonctionnalités ou de personnaliser celles qui sont effectivement livrées.
Je sais qu’une revue collective dans des dépôts publics est idéale, mais je voudrais d’abord faire mon travail et ne publier que des versions qui ont épuisé ma capacité actuelle.
Je suis d’accord avec le commentaire précédent : je ne suis pas anti-IA, mais je suis conscient que TOUT ce qu’elles génèrent doit être audité, vérifié et mis à jour par des humains.
C’est tout à fait juste et, au fond, je ne suis autorisé à parler qu’en mon nom propre. Cela se base sur mes observations concernant les applications de faible qualité « slop » qui se ressemblent toutes et sont généralement de mauvaise qualité (tant en termes de fonctionnalités que de sécurité), ainsi que sur les applications existantes dont la qualité a considérablement chuté depuis qu’elles ont commencé à déléguer une grande partie du travail aux LLM (comme Visual Studio Code et Formbricks ; j’ai cessé d’utiliser les deux depuis). Même si votre application est parfaite, il y a toujours des préoccupations éthiques, il serait donc excellent qu’il existe une forme de notification pour ces créations, comme suggéré. Cela ne signifie pas que quelqu’un doit se baser sur le tag, mais si vous le souhaitez, c’est une option appréciable.
Comme je l’ai dit, c’est un système basé sur la confiance et il incombe uniquement au développeur de s’assurer qu’il est étiqueté en conséquence. Évidemment, il y a certains cas où le LLM s’étiquette lui-même dans les journaux git (comme la plupart le font), de sorte qu’un utilisateur TL3+ peut prendre des mesures s’il le souhaite en consultant GitHub.
Je vous remercie pour votre réponse. Ma question s’adresse également à tout le monde et concerne les outils actuellement disponibles pour vérifier le code généré par les LLM.
Je ne suis pas développeur, mais j’ai réussi à implémenter des fonctionnalités qui n’existaient pas dans Discourse. Et je souhaite faire ce qui est à ma portée de la meilleure manière possible.
J’envisagerai d’ajouter des étiquettes si je publie mes dépôts ; pour l’instant, ils sont privés précisément parce que je les teste, et je tiens à le faire correctement avant de les partager avec la communauté.
Je serais extrêmement surpris si la majorité du code Core (y compris les plugins Core) n’était pas désormais développée à l’aide d’agents de codage, tant la façon de développer a changé.
À mon avis, il est désormais très difficile de justifier de ne pas utiliser d’agents de codage pour la plupart des tâches, car la perte d’efficacité serait tout simplement peu rentable.
Je ne me préoccupe absolument pas de « la manière dont un plugin a été créé » ni de savoir si l’artisan a utilisé un crayon ou un stylo.
« Aucune IA ici » ne me donne pas la moindre once de confiance supplémentaire lorsqu’il s’agit d’installer un thème ou un plugin.
Cependant… il y a un problème beaucoup plus grave que nous devons aborder sur CDCK.
Les plugins de base et le code source de Discourse sont régulièrement soumis à des analyses de sécurité. Lorsqu’une personne installe un canal pris en charge, elle peut faire confiance à la sécurité du code.
Les plugins et thèmes tiers ici, en revanche, sont « l’Ouest sauvage » : n’importe qui peut contribuer, nous ne les soumettons pas à des analyses de sécurité et nous ne nous assurons pas qu’ils respectent les bonnes pratiques. Cela met la communauté en danger.
J’aimerais arriver à un état où la « version XYZ » d’un thème serait au moins automatiquement analysée, afin de donner aux auto-hébergeurs au moins une certaine tranquillité d’esprit.
Ma vision ici est donc tout le contraire exiger que les versions des thèmes et plugins tiers passent par une sorte d’analyse par IA avant d’être proposées ici.
À mon avis, au moins sur le plan éthique, la revue de code par une LLM est totalement différente de « Claude, construis-moi cette application et ne fais aucune erreur » et de publier la sortie avec peu ou pas de validation ni de modifications de votre part. Malheureusement, on ne peut vraiment pas obliger un utilisateur final à assumer ses responsabilités, et peu importe à quel point on essaie, quelqu’un trouvera toujours un moyen de télécharger quelque chose de malveillant. Mais de toute façon, à quel point les LLM sont éthiques est une autre conversation et n’est pas vraiment pertinent pour ce fil de discussion.
et c’est très bien ! Je ne propose pas une interdiction générale de tout ce qui implique l’IA dans Customization.. Je voudrais simplement que cela soit correctement balisé pour que ceux qui ne veulent pas ouvrir cette boîte de Pandore ne se retrouvent pas à le faire.
exiger que les versions des thèmes et plugins tiers passent par une sorte d’analyse par IA avant d’être proposées ici.