另一个询问社区管理员是否允许 AI 回复的话题让我开始思考。借助新的工作流功能以及一些其他实用功能(例如自定义的游戏化插件),要搭建一个系统并不困难:在这个系统中,真人用户会获得其他用户的“尊重票”,而 AI 则会被踩(down-vote)。用户获得的尊重票越多,他们投出的赞成或反对票的权重就越大。
Discourse 内置的信任系统基本上也是同样的机制。
我亲眼目睹过垃圾信息发送者是如何钻系统空子的。他们发布一个 AI 话题,然后用另一个账号给自己的话题点赞。AI 简直是在给自己刷存在感 
你觉得我的“尊重”系统会不会同样被钻空子?还是说它有可能实现论坛的自我管理,鼓励真人互动,同时减轻管理员的工作负担?
3 个赞
看起来“投票”插件(Post Voting plugin)应该能很好地配合这个功能。
我在想,是否已经出现了大量由 AI 驱动的账号,以至于它们会点赞、互动并达到 TL3 等级?如果是这样,那可能会成为一个问题。
也许解决方案是将晋升标准改为累计获得的积分。但这将是整个系统的一次根本性转变。它会促使论坛在字面意义上进行更具攻击性的游戏化(gamification)设计,以鼓励用户赚取积分。不过话说回来,积极发布优质、非 AI 生成的内容,也许也是一件好事……
1 个赞
nickdb
(Nick)
3
挑战在于,越来越多的人正在借助人工智能来形成自己的观点。我们能看到这一趋势:越来越多的人直接把话题粘贴到编辑器里——我甚至有一个机器人可以查询这一指标,从而为衡量帖子的“AI含量”增加了一个维度。
当人类愿意充当数字内容的被动传声筒,并相信自己提供的、经过数字处理的内容就是自己的想法时,一套基于尊重的体系就会土崩瓦解。
在我看来,要让这套体系运转起来,论坛的所有成员必须共享一个共同的基础或价值观体系,但这在任何大型群体中都不可能实现,更不用说一个在线社区了。
1 个赞
Ed_S
(Ed S)
4
我认为,sock puppet(傀儡账号)和voting rings(投票圈)本来就是人类已经在做的事情——如果代理(agents)发现这样做有助于实现它们的目标,它们也必然会效仿。
我认为这是一场军备竞赛,因此无法彻底取胜,而采取哪些反制措施才值得投入,则是一个经济学问题。
我可能之前提过Slashdot的元审核(metamoderation)机制——我一直对它印象深刻。它可能与某种投票插件大同小异,但可能还包含额外的机制。Slashdot是一个早期的热门网站,它不得不应对这些问题——这段历史值得我们去借鉴,如果我们愿意的话。
3 个赞