# 我们都对ChatGPT和其他LLMs以及它们对论坛的影响有何看法？ **URL:** \ **Category:** Community Building\ **Tags:** ai\ **Created:** [2023年三月23日 23:58 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230 "2023-03-23T23:58:28Z")\ **Posts on this page:** 20\ **Page:** 2
**Author:** ![pgr](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/pgr/32/156783_2.png) [@pgr](https://meta.discourse.org/u/pgr)\ **Post date:** [2023年三月29日 17:33 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/21 "2023-03-29T17:33:26Z")
关于那些通过复制粘贴ChatGPT内容来回答问题的人，这里有一个有趣的例子，说明了一些反对意见： > **[Want to help others? Leave your AI at the door](https://community.home-assistant.io/t/want-to-help-others-leave-your-ai-at-the-door/523704/11)** > > Pardon me for raging, I just find it weird that some people find it acceptable, and therefore find it weird that it needs to be spelled out. It’s literally regurgitating unverified advice as recommendation. And unlike pointing to another person... 我也在经常浏览的论坛（性质非常技术性）上看到了这种情况。一个特定的新用户每天发布8到9个答案，全部来自ChatGPT。 其中有很多有价值的信息，但也有不准确之处和一些彻头彻尾的误导性内容（想象一个复杂的7步列表，我看到第6步就知道它永远行不通……但很多人不会）。 这位用户似乎在试图建立声誉……我们正在考虑要求人们始终明确标记ChatGPT内容的原样。我们只能希望他们会尊重这一要求，但实际上无法强制执行。 这让我感到不安，我认为这不会把我们引向一个好地方。我担心无意义的对话将接管互联网。我们可能被迫在现实世界中过真实的生活，我不确定我们能否应对…… 🙂 ---
**Author:** ![MikeNolan](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mikenolan/32/297597_2.png) [@MikeNolan](https://meta.discourse.org/u/MikeNolan)\ **Post date:** [2023年三月29日 17:39 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/22 "2023-03-29T17:39:46Z")
我的大儿子喜欢给我发文章和帖子，展示 ChatGPT 的各种不当之处。我一直告诉他，ChatGPT 技术目前在许多领域，比如数学，可能只处于小学二三年级的水平。引用我一位教授多年前的话来说，它不知道自己不知道什么。 我还没让它给我写过烤蛋糕的食谱，真不敢想它会错成什么样。（我在网上见过太多人类发布的、完全不可行的食谱了。） 我认为当 Facebook 和 Twitter 被发明出来时，无意义的对话可能已经占据了互联网。我们这些足够年长、还记得 USENET 的人，当时称它为“懂阅读的人玩电子游戏”可能还算准确，但现在这条界线可能要划得更早了。 ---
**Author:** ![BenLeong](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/benleong/32/60951_2.png) [@BenLeong](https://meta.discourse.org/u/BenLeong)\ **Post date:** [2023年三月30日 05:25 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/23 "2023-03-30T05:25:26Z")
> [@Olivier\_Lambert](#): > > 我能理解一个开放和免费的论坛如何会被垃圾信息淹没而变得无关紧要。 我们目前确实有这种感觉——运行一个免费且开放的 Discourse 论坛，并且看到大量的 ChatGPT 式垃圾信息机器人绕过了现有的垃圾信息防护。 Akismet 目前跟不上它们的步伐，因为我从未见过如此多的垃圾信息账户能够通过。它们倾向于发布看起来无害的评论，回答一个问题（或重新表述它，然后回答），并给出一个相当冗长的、看似有帮助的答案，但缺少原始问题的一些上下文或细微差别。 我假设 Discourse 论坛被当作试验场，原因与十年前的 WordPress 网站类似：它是一种开源技术，得到了相当广泛的应用，因此能够在一个论坛上进行注册流程的机器人很可能能够访问许多其他论坛。 我们_目前_没有看到传统的垃圾信息机器人行为（创建账户，发布足够无害的内容以绕过反垃圾信息措施，然后在 48 小时内编辑它以添加链接）——所以我不知道这里的最终目的是什么。有可能我们删除这些帖子的速度太快了，它们之后会被编辑成反向链接农场。 ---
**Author:** ![sam](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/sam/32/102149_2.png) [@sam](https://meta.discourse.org/u/sam)\ **Post date:** [2023年四月1日 00:10 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/24 "2023-04-01T00:10:01Z")
8 篇帖子已拆分为新主题：[LLM 对客户支持的影响](https://meta.discourse.org/t/llms-and-the-impact-on-customer-support/260181) ---
**Author:** ![sterretje](https://avatars.discourse-cdn.com/v4/letter/s/cdc98d/32.png) [@sterretje](https://meta.discourse.org/u/sterretje)\ **Post date:** [2023年四月1日 07:36 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/25 "2023-04-01T07:36:49Z")
> [@jimkleiber](#): > > 在我关注有关 ChatGPT、GPT-4 和其他 LLM 的新闻，并一直在试用 [Discourse Chatbot 🤖 (支持 ChatGPT)](https://meta.discourse.org/t/discourse-chatbot-supporting-chatgpt/256652) 时，我感到兴奋、恐惧，并且不确定这对在线交流意味着什么。 ChatGPT 就你的问题给你什么建议 🤣？还有其他的呢？它们之间是否一致 🤣 🤣？ ---
**Author:** ![Olivier\_Lambert](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/olivier_lambert/32/74807_2.png) [@Olivier\_Lambert](https://meta.discourse.org/u/Olivier_Lambert)\ **Post date:** [2023年四月1日 08:49 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/26 "2023-04-01T08:49:05Z")
我认为强制性的双重身份验证（2FA）应该能过滤掉大部分机器人。有什么想法吗？ 否则，我可能会让用户在创建账户后填写一个 typeform，并通过表单提交时的 webhook 将他们添加到“已验证”组，并使未经验证的用户只能只读访问论坛。 话虽如此，但现在机器人可以浏览网页并理解按钮意图，我觉得这只是一个权宜之计。 ---
**Author:** ![sterretje](https://avatars.discourse-cdn.com/v4/letter/s/cdc98d/32.png) [@sterretje](https://meta.discourse.org/u/sterretje)\ **Post date:** [2023年四月1日 12:30 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/27 "2023-04-01T12:30:26Z")
> [@Olivier\_Lambert](#): > > 我觉得强制性的双因素认证（2FA）应该能过滤掉大部分机器人。有什么想法吗？ 大多数论坛都是开放的（访问者无需注册），并且可以通过谷歌等搜索引擎找到。双因素认证（2FA）无法阻止这一点。 ---
**Author:** ![Olivier\_Lambert](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/olivier_lambert/32/74807_2.png) [@Olivier\_Lambert](https://meta.discourse.org/u/Olivier_Lambert)\ **Post date:** [2023年四月1日 12:34 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/28 "2023-04-01T12:34:56Z")
创建账户所需的双重身份验证将对 99.9% 的机器人有效…… ---
**Author:** ![Heliosurge](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/heliosurge/32/571810_2.png) [@Heliosurge](https://meta.discourse.org/u/Heliosurge)\ **Post date:** [2023年四月3日 20:16 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/29 "2023-04-03T20:16:02Z")
这是一个有趣的机器人。 ![](https://cdck-file-uploads-global.s3.dualstack.us-west-2.amazonaws.com/meta/optimized/4X/b/f/e/bfe8bf1d596c1b63ee28809a71e769d1255e75e3_2_690x388.jpeg)https://www.youtube.com/embed/yUszJyS3d7A?feature=oembed&wmode=opaque ---
**Author:** ![MikeNolan](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mikenolan/32/297597_2.png) [@MikeNolan](https://meta.discourse.org/u/MikeNolan)\ **Post date:** [2023年四月3日 21:24 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/30 "2023-04-03T21:24:42Z")
我想知道一个受过唇语训练的人是否能在关闭声音的情况下理解它？ ---
**Author:** ![MikeNolan](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mikenolan/32/297597_2.png) [@MikeNolan](https://meta.discourse.org/u/MikeNolan)\ **Post date:** [2023年四月6日 00:45 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/31 "2023-04-06T00:45:34Z")
使用 ChatGPT 技术需要谨慎的另一个原因。 一位加州法学教授被列入了 ChatGPT 生成的指控性骚扰的法学学者名单。ChatGPT 引用了《华盛顿邮报》的一篇报道作为其来源。 问题是，根本不存在这样的《华盛顿邮报》报道，而且从未有人对这位法学教授提出过性骚扰指控。 以下是该报道在《华盛顿邮报》网站上的链接，巧合的是： [https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/](https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/) 如果该链接不起作用，请尝试此链接：[https://wapo.st/3KhD2R2](https://wapo.st/3KhD2R2) ---
**Author:** ![MikeNolan](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mikenolan/32/297597_2.png) [@MikeNolan](https://meta.discourse.org/u/MikeNolan)\ **Post date:** [2023年四月14日 00:37 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/32 "2023-04-14T00:37:11Z")
商务部已宣布计划确保人工智能拥有适当的“护栏”，大家可以放心了。 《华尔街日报》报道： > 美国商务部下属机构国家电信和信息管理局（负责发布征求意见稿）负责人艾伦·戴维森（Alan Davidson）表示：“看到这些工具在其相对初级阶段就能做到什么，真是令人惊叹。我们知道需要建立一些护栏，以确保它们被负责任地使用。” :sarcasm off: ---
**Author:** ![Mevo](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mevo/32/187732_2.png) [@Mevo](https://meta.discourse.org/u/Mevo)\ **Post date:** [2023年四月16日 12:14 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/33 "2023-04-16T12:14:32Z")
> [@MikeNolan](#): > > 所以，如果我们能用它来分析我们参与者的写作风格，那么在我们的论坛中拥有类似 ChatGPT 的界面可能是有价值的。 **是的……前提是文本仍然是由人类参与者撰写的** 。 而且，这种情况可能只会越来越糟。所以问题就来了。 人工智能可能会导致你所描述的一切变得越来越糟，并且越来越难以检测。 书籍作者是一回事。而在在线讨论中，不知道你实际上在与谁打交道是另一回事。如果文本不是由个人真正撰写的，而是使用人工智能生成的，那么你本应从书面文本中获得的所有线索都会失真。 ---
**Author:** ![Jagster](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jagster/32/192154_2.png) [@Jagster](https://meta.discourse.org/u/Jagster)\ **Post date:** [2023年四月16日 12:26 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/34 "2023-04-16T12:26:04Z")
这个问题完全取决于细分领域。我的圈子里的人都非常关注犬类的营养和喂食。我能立刻看出一段文字是否由人工智能生成——因为人工智能认为“百万只苍蝇不会错”。 当我们谈论徒步、划船等话题时，也会出现同样的情况。 所以，这取决于哪些群体写了大部分网络文本。这就是为什么在我朋友/社区里，除了程序员之外，其他人都认为人工智能只是又一个炒作——至少目前是这样 😉 ---
**Author:** ![jimkleiber](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jimkleiber/32/121814_2.png) [@jimkleiber](https://meta.discourse.org/u/jimkleiber)\ **Post date:** [2023年四月21日 07:54 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/35 "2023-04-21T07:54:39Z")
刚看到这个，觉得它对于将 AI 答案放入每个输入框的容易程度（实际上已经很方便了）来说很有参考意义： > ---
**Author:** ![Dan\_Eastwood](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/dan_eastwood/32/571365_2.png) [@Dan\_Eastwood](https://meta.discourse.org/u/Dan_Eastwood)\ **Post date:** [2023年四月21日 19:56 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/36 "2023-04-21T19:56:31Z")
轻微不适宜工作内容… > **[Constructive](https://xkcd.com/810/)** ---
**Author:** ![Dan\_Eastwood](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/dan_eastwood/32/571365_2.png) [@Dan\_Eastwood](https://meta.discourse.org/u/Dan_Eastwood)\ **Post date:** [2023年四月21日 20:05 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/37 "2023-04-21T20:05:56Z")
我遇到了第一个用户可能使用 ChatGPT 进行争辩式回复的案例。这个人已经是边缘性的网络巨魔了，我对这一发展感到不满。 另一位用户使用了一个新的 Chrome 扩展程序进行了识别： > [@](#): > > 99.8% 的概率，由 [AI 内容检测器 | AI 检测器 | 检测 GPT4 | Copyleaks](https://copyleaks.com/ai-content-detector) 判断 [↩](#footnote-ref-243622-1) 还不确定这个扩展程序有多好——它似乎在样本不足时默认为“人类”，但可能会错过某些类型/风格的 AI 生成文本（例如 ChatGPT 生成的打油诗）。 我目前的审核计划，如果你能称之为计划的话，就是让其他用户识别并举报这些滥用行为，让社会压力起到威慑作用。目前不知道还能做什么。 ---
**Author:** ![Ed\_S](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/ed_s/32/134015_2.png) [@Ed\_S](https://meta.discourse.org/u/Ed_S)\ **Post date:** [2023年四月21日 20:40 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/38 "2023-04-21T20:40:14Z")
> [@Dan\_Eastwood](#): > > 我目前的审核计划，如果你能称之为计划的话，就是让其他用户识别并指出这些滥用行为，并让社会压力起到威慑作用。目前不知道还能做什么。 如果这种情况发生在我的论坛上，我会明确表示，发布机器生成的文本而不加注释是一种可标记的违规行为。本质上，这是欺骗性的，所以它违反了指导方针。 ---
**Author:** ![Dan\_Eastwood](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/dan_eastwood/32/571365_2.png) [@Dan\_Eastwood](https://meta.discourse.org/u/Dan_Eastwood)\ **Post date:** [2023年四月22日 00:49 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/39 "2023-04-22T00:49:51Z")
> [@Ed\_S](#): > > 如果我的论坛也出现这种情况，我希望明确规定，发布机器生成文本而不加标注将是一种可标记的违规行为。本质上，这是欺骗行为，因此违反了指南。 我原则上同意，但识别机器生成文本的标准是一个不断变化的目标。好消息是，Chrome 扩展程序到目前为止还没有产生任何误报，尽管测试范围非常有限。坏消息是，版主需要付出额外的努力来做出判断，并且需要跟上最新的检测工具，因为人工智能生成文本会越来越好。人工智能文本最终将达到一个难以检测的程度。 ---
**Author:** ![Ed\_S](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/ed_s/32/134015_2.png) [@Ed\_S](https://meta.discourse.org/u/Ed_S)\ **Post date:** [2023年四月22日 08:42 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/40 "2023-04-22T08:42:03Z")
> [@Dan\_Eastwood](#): > > AI文本最终会达到难以检测的程度。 确实如此，但我将其视为一个审核问题。我们的人工版主已经留意那些具有对抗性、粗鲁、侮辱性、重复性或误导性的帖子。这是对该问题的延伸：并且，根据本地文化规范，真人发布机器文本而不发出警告通知是不被接受的，任何看起来（或闻起来）像机器文本的东西，尤其是来自相对较新用户的，都会自动引起怀疑。 我认为人类大脑，尤其是版主的大脑，将能够相当熟练地识别机器文本。当机器文本与推动对话的有用帖子无法区分时，我们就没有问题了。（那些发布低努力和低价值帖子的人可能会受到惩罚。） [上一頁](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230.md?page=1) [下一頁](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230.md?page=3)