# 我们都对ChatGPT和其他LLMs以及它们对论坛的影响有何看法？
**URL:** https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230
**Category:** Community Building
**Tags:** ai
**Created:** [2023 年3 月 23 日 23:58 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230 "2023-03-23T23:58:28Z")
**Posts on this page:** 20
**Page:** 4
### 作者：  [@MikeNolan](https://meta.discourse.org/u/MikeNolan)
#### 发布日期： [2023 年7 月 26 日 16:11 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/63 "2023-07-26T16:11:37Z")
在另一个相关问题中，《华尔街日报》的一位专栏作家对 Hardee’s 的聊天机器人得来速点餐系统进行了 30 项测试，结果相当不错，只有 3 项需要转交人工处理。
---
### 作者：  [@Bas](https://meta.discourse.org/u/Bas)
#### 发布日期： [2023 年7 月 27 日 10:38 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/64 "2023-07-27T10:38:02Z")
可以提供公告链接吗？
这样我们这些消息不灵通的人也能了解一些背景信息 🙂
---
### 作者：  [@RGJ](https://meta.discourse.org/u/RGJ)
#### 发布日期： [2023 年7 月 27 日 10:49 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/65 "2023-07-27T10:49:59Z")
[https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/](https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/)
---
### 作者：  [@Bas](https://meta.discourse.org/u/Bas)
#### 发布日期： [2023 年7 月 27 日 11:02 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/66 "2023-07-27T11:02:38Z")
好的，谢谢您 @RGJ 🙂
看起来这具体是关于这项承诺的：
所以我想这真的取决于公司来促成。但正如 @merefield 上面提到的，给文本添加水印几乎是不可能的。
您期望 Discourse 在这种情况下做什么 @MikeNolan？如果用户只是复制粘贴 AI 生成的文本，Discourse 无法得知（除非运行垃圾信息和 AI 检测器），所以我不太明白这项协议目前会带来什么改变。
---
### 作者：  [@MikeNolan](https://meta.discourse.org/u/MikeNolan)
#### 发布日期： [2023 年7 月 27 日 16:07 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/67 "2023-07-27T16:07:18Z")
用户粘贴的 AI 生成内容可能无法被 Discourse 做太多处理，因为它可能与人类生成的内容无法区分（除了可能写得更好之外），但如果你使用官方的 Discourse AI 插件，也许 Discourse 可以对水印或以其他方式标记其生成的内容做些什么？
---
### 作者：  [@Bas](https://meta.discourse.org/u/Bas)
#### 发布日期： [2023 年7 月 27 日 16:24 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/68 "2023-07-27T16:24:33Z")
原来如此，我明白了 🙂
---
### 作者：  [@Falco](https://meta.discourse.org/u/Falco)
#### 发布日期： [2023 年7 月 27 日 16:51 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/70 "2023-07-27T16:51:16Z")
> [@MikeNolan](#):
>
> 如果您使用官方的 Discourse AI 插件，也许 Discourse 可以对生成的内容进行水印处理或以其他方式进行标记？
我们已经开始着手这项工作，例如，这个主题摘要就带有水印：
摘要 UI 工作是获得最多关注的部分，所以它已经接近最终形态并已设置好。其他功能将跟进。
---
### 作者：  [@RGJ](https://meta.discourse.org/u/RGJ)
#### 发布日期： [2023 年7 月 27 日 17:00 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/71 "2023-07-27T17:00:44Z")
> [@Falco](#):
>
> 例如，这个话题摘要本身就带有水印：
也许有点语义化，但数字水印的两个特性是它们对普通观众来说是隐藏的，并且难以移除。
---
### 作者：  [@MikeNolan](https://meta.discourse.org/u/MikeNolan)
#### 发布日期： [2023 年7 月 27 日 17:07 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/72 "2023-07-27T17:07:06Z")
我认为，无论是文本还是图像，公开承认 AI 生成的内容都很重要。
隐藏的数字签名对于图像版权执行等用途更有用。
我活跃在 Ugly Hedghog 摄影论坛，在那里，AI 生成或修改的图像是否符合照片的定义是一个热门话题。（一些 AI 生成的图像曾赢得摄影比赛。）
---
### 作者：  [@RGJ](https://meta.discourse.org/u/RGJ)
#### 发布日期： [2023 年7 月 27 日 17:09 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/73 "2023-07-27T17:09:18Z")
我们现在讨论的问题是，恶意人士将利用人工智能生成内容，然后移除其来源标识，并试图将其伪装成人类生成的内容。这就要求有一个难以移除的来源“标签”。
---
### 作者：  [@MikeNolan](https://meta.discourse.org/u/MikeNolan)
#### 发布日期： [2023 年7 月 27 日 17:09 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/74 "2023-07-27T17:09:59Z")
意图不一定带有恶意，但不够诚实。
祝你好运，找到一种方法来“标记”人工智能生成的文本，这种方法无法通过可能像复制粘贴一样基本的方法来克服。
---
### 作者：  [@hello-smile6](https://meta.discourse.org/u/hello-smile6)
#### 发布日期： [2023 年7 月 27 日 17:11 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/75 "2023-07-27T17:11:16Z")
零宽字符可以用于此目的吗？
---
### 作者：  [@RGJ](https://meta.discourse.org/u/RGJ)
#### 发布日期： [2023 年7 月 27 日 17:21 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/76 "2023-07-27T17:21:13Z")
不，可以通过传递内容通过一个只保留普通字母字符的过滤器来轻松删除它们。文本水印非常非常难。你基本上无法在字符表示级别上做到这一点。
[Scott Aaronson 的这篇博文](https://scottaaronson.blog/?p=6823) 解释了它是如何工作的。向下滚动到“我在 OpenAI 的项目”部分。其中概述的方法是复制粘贴证明 @MikeNolan
---
### 作者：  [@Ed\_S](https://meta.discourse.org/u/Ed_S)
#### 发布日期： [2023 年7 月 27 日 17:51 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/77 "2023-07-27T17:51:51Z")
> [@RGJ](#):
>
> 其中概述的方法
谢谢，这很有趣：
> 我迄今为止的主要项目是用于对像 GPT 这样的文本模型输出进行统计水印的工具。基本上，每当 GPT 生成一些长文本时，我们都希望在其词语选择中有一个不易察觉的秘密信号，你可以用它来证明，是的，这是来自 GPT。我们希望让人们更难将 GPT 的输出冒充为人类所写。这显然有助于防止学术抄袭，但也可以用于例如大规模生成宣传……或者模仿某人的写作风格以陷害他们。这些都是人们可能想让它变得更困难的事情，对吧？
> …
> 因此，为了进行水印，不是随机选择下一个 token，而是使用加密的伪随机函数来伪随机地选择它，其密钥仅由 OpenAI 知晓。假设最终用户无法区分伪随机数和真正随机数，这不会对最终用户造成任何可检测的差异。
---
### 作者：  [@simon](https://meta.discourse.org/u/simon)
#### 发布日期： [2023 年7 月 27 日 18:06 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/78 "2023-07-27T18:06:40Z")
> [@MikeNolan](#):
>
> 除了可能写得更好之外
我担心识别 AI 生成文本的一个问题是，它可能会意外地将写得好的人类生成文本作为目标。
---
### 作者：  [@MikeNolan](https://meta.discourse.org/u/MikeNolan)
#### 发布日期： [2023 年7 月 27 日 18:19 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/79 "2023-07-27T18:19:44Z")
> [@simon](#):
>
> 写得好的、人类生成的文本。
在许多论坛上，写得好的、人类生成的文本似乎是个例外。 :sigh:
---
### 作者：  [@merefield](https://meta.discourse.org/u/merefield)
#### 发布日期： [2023 年7 月 27 日 18:25 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/80 "2023-07-27T18:25:43Z")
> [@simon](#):
>
> 我担心试图识别人工智能生成的文本会意外地将写得好的人类生成的文本作为目标。
我只是回到动机。
如果你识别出恶意意图，就禁止或暂停。
如果它是写得好、意图良好且事实确凿的文本，就保留它？
如果用户的母语不是英语，并且他们使用了 ChatGPT 来改进他们的语法怎么办？
---
### 作者：  [@merefield](https://meta.discourse.org/u/merefield)
#### 发布日期： [2023 年7 月 27 日 18:28 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/81 "2023-07-27T18:28:22Z")
顺便说一句，这是我为 AI 主题摘要添加的开头：
（需要进行一些 CSS 调整！）
---
### 作者：  [@simon](https://meta.discourse.org/u/simon)
#### 发布日期： [2023 年7 月 27 日 18:31 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/82 "2023-07-27T18:31:09Z")
> [@MikeNolan](#):
>
> 在许多论坛上，精心编写的人工文本似乎是例外
好的，我担心这可能会针对我的帖子 🙂
> [@merefield](#):
>
> 如果文本写得好，意图良好，并且有事实支持，那就保留它？
我认为是的。我不认为人们使用人工智能来帮助撰写帖子有什么问题，前提是有一个真正的人类在决定人工智能生成的文本是否值得发布。
---
### 作者：  [@MikeNolan](https://meta.discourse.org/u/MikeNolan)
#### 发布日期： [2023 年7 月 27 日 18:31 UTC](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230/83 "2023-07-27T18:31:43Z")
> [@merefield](#):
>
> 如果用户的母语不是英语，并且他们使用 ChatGPT 来完善他们的语法怎么办？
有很多工具可以帮助改进语法，我不知道 ChatGPT 是否比其他工具更好。
不过，改进语法与生成“原创”内容是有些不同的问题。AI 引擎开始受到内容所有者的关注，他们希望因使用其材料来训练 AI 引擎而获得报酬。
[上一页](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230.md?page=3)
[下一页](https://meta.discourse.org/t/how-are-we-all-feeling-about-chatgpt-and-other-llms-and-how-theyll-impact-forums/259230.md?page=5)