我们都对ChatGPT和其他LLMs以及它们对论坛的影响有何看法?

我理解你的观点,但这让我心情复杂。在这里,想法是人工智能的输入是不受欢迎的,因为它“不够好”。我甚至不确定这是不是真的。人工智能可能已经能生成比一些人类更好的文本了。

真正的想法难道不是论坛“是为人类准备的”,而机器根本就是不受欢迎的吗?是的,这可能被视为一种歧视,但我们谈论的是机器,而不是人。

5 个赞

有意义的讨论难道不是真正的想法吗?如果讨论的某些部分是由人工智能生成的,写得好、研究得好,这会使讨论的意义减少吗?

以这个论坛为例。如果有一个人工智能在帮助解决问题,其答案与我们自己写的答案一样好,甚至更好,这有什么不好吗?

人工智能引擎可能没有创造出甘草徽章,或者要求获得它。 :slight_smile:

5 个赞

我也一样,仔细想想。而且我认为这很大程度上取决于论坛的宗旨:互助支持小组是一种情况,产品支持网站是另一种情况。

但是,作为版主,我们已经不得不处理一些行为有些出格的个人,他们不太遵守帖子的主题,甚至不遵守论坛的主题。

7 个赞

是的,可能吧。但这可能会回到“什么是讨论?”这个问题上。你能和人工智能进行“有意义的讨论”吗?似乎有些人已经花时间与 ChatGPT 进行“讨论”了。

如果其他人工智能回答了第一个问题呢?如果它们都在一起进行“有意义的讨论”呢?即使只有大部分参与者是人工智能,这仍然算“讨论”吗?

我不知道,这似乎是一个复杂的问题,答案可能取决于视角。在内部人工智能注入一些信息和外部人工智能作为参与者之间也存在差异。对我来说,@Ed_S 的帖子以及上面的内容真正关注的是“无法区分”的部分。

如果你看不出来,那重要吗?” 是西部世界电视剧系列中最早的台词之一,在 第一季第一集 中被随意提及,以回应“你真的存在吗?”这个问题。

来源:https://ai.stackexchange.com/questions/20405/what-are-the-implications-of-the-statement-if-you-cant-tell-does-it-matter

2 个赞

一个单独但有些相关的问题是,广告商是否会对人工智能生成的流量大发雷霆。

这不像机器人会去购买东西,尽管它可能会推荐某人购买(或不购买)。

2 个赞

TicketMaster / GPU 卖家可能不同意你的看法 :wink:

2 个赞

说得有理,但我对此已经考虑了大约12年。我认为行业和创作者中一些人呼吁监管,充其量是虚伪的,因为他们向科技界倾销这些明显无法抗拒的好东西。我不相信他们的说辞,所以让我继续前进,而不是对那些闪闪发光的“玩具”惊叹不已,因为这绝不是圣诞节,而且闪光的不一定是金子。

任何有眼睛的人现在都能看到,在一个人工智能可以像人类一样生成文本和图像的网络世界里,监管机构将觊觎整个互联网的通用数字身份,而突然之间,那些玩具就被涂上了铅。

1 个赞

大约 30 年前,当电子邮件垃圾邮件和欺骗/网络钓鱼才刚刚开始令人烦恼时,曾有过类似的通用 ID 的呼声。它当时失败了,我怀疑它这次还会失败,因为能够使其可靠运行的技术仍然不存在,而且可能永远不会存在。

1 个赞

您能提供一些关于此事的来源吗?

我一点也不记得有这样的事情。我的看法是,世界在“9·11”事件之后才开始变得疯狂。在那之前,我不记得有任何借口要加强对一切人和事的监控和识别。您所说的听起来像是在合理化,但我很期待被证明是错误的。即使以前情况很糟糕,也不能成为今天或明天让情况变得更糟的借口。

我不太记得这方面很多细节了。最初成立这个委员会的是邮件列表管理员邮件列表上的一些人,其中有几位是 ANSI 委员会的成员,他们愿意支持将其纳入 ANSI 委员会的结构中。我记得我们有两三个人来自美国,一个来自瑞士,一个来自德国,还有几个人,总共大约有十几个人。

我们提出了一个“通用 ID 和信用”系统的提案,该系统将向 ISP 收取每发送一封电子邮件大约 0.00001 美分的费用。该提案未能通过 ANSI 委员会的结构,安全专家说 ID 系统不安全,其他人说管理中央信用结构成本太高且会成为政治斗争的焦点,还有人说政府可能会用它来追踪私人电子邮件等。

供参考,我的一位密码学专家朋友同意共识,即 ID 系统不安全,但他认为,鉴于计算能力足够强大,没有任何密码系统是安全的。

2 个赞

我的意思是,当那个“关系AI”失去了一些“个性”并且不再模仿情感时,你们有成千上万的人——我称之为怪人(如果这适用于你,请冷静……我收集忍者神龟)——在推特和Reddit上发疯,说他们的“伪联系”被从生活中摧毁了。而这发生之后才多久?大概两个月左右?随便你怎么想。

虽然我不认为大多数人把论坛当作个人友谊模拟器,尽管我可能错了,而且这些人确实涌向了留言板替代工具来抱怨这件事……

2 个赞

确实,这些工具大多数都是为基础的 ChatGPT 设计的。任何优秀的提示工程师都可以非常轻松地绕过它。

例如,一个 Raymond Reddington 的回复(我被你提供的网站速率限制了,但它在那里也通过了)

4 个赞

是的,我也同意你的看法,问题是ChatGPT正在主导AI市场,但市场上也有许多免费工具。

2 个赞

但论坛开发者和管理员最需要的是 API,而 API 很少是免费的:即使你运行自己的本地 LLM,也必须为显著更高的基础设施成本付费。

3 个赞

《华尔街日报》报道称,美国联邦贸易委员会(FTC)正在对ChatGPT是否通过发布虚假信息损害个人名誉展开调查。

不确定此链接是否能正常打开,它可能需要付费订阅才能访问。

https://www.wsj.com/articles/chatgpt-under-investigation-by-ftc-21e4b3ef?mod=hp_lead_pos1

4 个赞

ChatGPT 已占领世界。它无处不在。我们无法摆脱它。

它现在被用于一切。

例如:
Discourse AI

还存在 AI 生成的卡通(例如 ai_peter),您输入主题,AI 就会编写剧本。

还有更多!

AI 可能会产生幻觉,使其使用起来有风险,请务必核实事实。您应该非常小心,错误的答案可能会导致问题。

1 个赞

大多数论坛管理员都见过大量来自人类发帖者的错误帖子,AI 生成的帖子会更难处理吗?

2 个赞

最近宣布的主要人工智能开发商之间达成的要求对人工智能生成的内容进行水印等协议,将如何影响嵌入式大型语言模型?Discourse 能否为 ChatGPT 生成的内容添加水印?

1 个赞

这肯定是指图片、视频以及潜在的声音,而不是文本吧?如何在不损害内容的情况下为文本添加水印?

2 个赞

挑战在于,可能没有一种实用的方法可以给AI生成的文本添加水印。这意味着我们仍然会疑惑“这是真的,还是AI生成的?”

2 个赞