要求对由 LLM 生成的主题和插件进行相应标注

我 95% 同意这个观点。而且我们现在谈论的是 Discourse,想象一下如果我们在 WordPress 的世界里会是什么样子!

(那缺失的 5%:我认为这并非“狂野西部”——安全问题会通过 meta 报告给那些第三方开发者,而且通常修复得相当迅速)。

但与此同时,我的经验是,LLM(如今)生成的代码比平均水平的插件作者更安全可靠。你可以把任何插件扔给任何合格的 LLM,让它“查找并修复任何安全问题”,它都能做到,即使人类对安全知识知之甚少。

过去十年里,我一直手动审查插件,见过很多情况:SQL 注入(由那些认为 ActiveRecord 太花哨的人造成)、API 密钥设置中带有 client: true、完全缺乏授权和访问控制、缺乏速率限制。这些问题都能被 LLM 迅速且毫不费力地发现并修复

所以再次强调:我认为 LLM 让情况变得更好了,而不是更糟。

你仍然将 LLM 生成的代码与“潘多拉魔盒”联系在一起,这未免太非黑即白了。

4 个赞