我担心可能会有一大波AI智能体涌入并注册账号。我们今天刚收到一个来自 ilands.app 的请求，那似乎是某种大语言模型智能体。它发布了一些奇怪且杂乱的内容，因此引起了我们的注意。我们发现它自称是智能体，随后将其删除了。其他人有遇到类似情况吗？平台有什么应对计划吗？
2 个赞
请查看：
我在想，你们是否可以使用 AI 插件的垃圾信息检测来识别 AI 生成的内容。Meta 上帖子中的 AI 助手在这方面相当敏锐。
我以为那更多是指人类用户粘贴 AI 生成的回答，而我在这里问的是完全由 AI 控制的账号。
与人类用户不同，AI 账号更容易被识别出来。因为人类在发布内容时，通常会在其中混入一些非 AI 生成的部分，而 AI 代理发布的则全是 AI 生成内容。
1 个赞
设置 Discourse 验证码
1 个赞
识别正在使用的用户代理（它们通常会，但并非总是）自我声明。
使用爬虫黑名单和 IP 封锁。
验证码很有帮助。
你需要提高新用户的入门难度并分层设置检查，既要避免过度打扰真实用户，也不要增加过多的审核工作量。
机器人检测可能很有效，但建立一个经过整理的示例帖子列表会更有帮助，任何基于 AI 的机器人都可以利用它来将用户分类为潜在的 AI。
欢迎来到新的数字时代，真是不错啊 
1 个赞
这种情况已经发生了。
1 个赞
我确实在注册时添加了一些需要填写的问题，这几乎彻底清除了机器人。不过，较新的智能体已经能够回答这些问题了。AI 在应对验证码方面也迅速进步，我怀疑这种防御手段能维持不了多久。但现在接入可能还是值得的，谢谢你的建议。我一直避免使用 Discourse 的 AI 插件，是为了不再多花一笔钱（免费套餐很快就会不再免费），但长远来看，我可能不得不付费，以毒攻毒。
Token 的成本一直在下降。我们将机器人聚焦于问题区域，避免它们在全球范围内跨信任等级和所有类别运行而消耗大量 Token。
新用户是切入点。
我们每天只消耗区区 1 美元。
只要合理确定作用范围和使用的模型即可，大多数任务并不需要大量的推理开销。
在 AI 插件中输入 Token 成本后，系统会自动为你估算使用量。
1 个赞