AI 에이전트들이 대거 등장하여 계정을 생성할 수 있다는 점이 걱정됩니다. 오늘 ilands.app에서 온 LLM 에이전트 한 대가 무작위하고 이상한 내용을 게시했는데, 눈에 띄어서 확인해 보니 에이전트임을 명시하고 있어 삭제했습니다. 다른 분들도 비슷한 상황을 겪고 계신가요? 그리고 이에 대한 대응 계획이 있나요?
4개의 좋아요
다음 링크를 확인해 보세요:
AI 플러그인의 스팸 감지 기능을 활용해 AI 생성 콘텐츠를 식별할 수 있을 것 같습니다. Meta의 게시물에 적용된 AI 어시스턴트는 이 작업에서 꽤 뛰어난 성능을 보여줍니다.
1개의 좋아요
그건 인간 사용자가 AI 답변을 붙여넣는 것에 관한 거라고 생각했는데, 여기서는 100% AI 계정에 대해 물어보는 겁니다.
인간이 AI 내용을 붙여넣는 경우와 비교하면 식별하기가 더 쉬울 텐데요. 인간은 해당 게시물이나 다른 게시물에 비-AI 내용을 일부 섞어 넣기 마련이지만, AI 에이전트는 모든 콘텐츠가 AI 생성물이니까요.
2개의 좋아요
discourse 캡차 설정
4개의 좋아요
사용 중인 사용자 에이전트를 식별하세요. (대부분은, 하지만 항상 그런 것은 아니지만) 자신을 밝힙니다.
크롤러 차단 목록과 IP 차단을 사용하세요.
캡차(CAPTCHA)가 도움이 됩니다.
진입 난이도를 높이고, 실제 사용자에게 지나치게 번거로움을 주거나 운영 부담을 증가시키지 않으면서도 새로운 사용자를 대상으로 계층적 검사를 적용해야 합니다.
봇 감지는 효과적일 수 있지만, AI 기반 봇이 사용자가 잠재적 AI인지 분류할 수 있도록 예시 게시물 목록을 선별하여 구축하는 것이 도움이 됩니다.
새로운 디지털 시대에 오신 것을 환영합니다, 정말 멋진 시대 아닙니까 
1개의 좋아요
이것은 이미 일어나고 있습니다.
1개의 좋아요
회원가입 시 채워야 할 질문을 몇 가지 추가했는데, 덕분에 봇이 거의 전부 제거되었습니다. 다만 최근의 에이전트들은 그 질문들에 답할 수 있죠. AI도 캡차를 푸는 데 빠르게 능숙해지고 있어서, 이 방어선이 오래 유지되리라고는 생각하지 않습니다. 하지만 지금 당장 연결하는 것이 가치 있을 것 같으니, 조언해 주셔서 감사합니다. 저는 무료 플랜이 곧 무료가 아니게 될 테니 더 많은 돈을 쓰기 싫어서 Discourse AI 플러그인을 피하고 있었지만, 장기적으로는 결국 비용을 지불하고 화로 화를 막아야 할 것 같습니다.
토큰 비용이 계속 낮아지고 있습니다. 봇을 문제 영역에 집중시켜 전역적으로 모든 신뢰 수준과 카테고리를 돌며 토큰을 소모하지 않도록 하고 있습니다.
입구는 비교적 새로운 사용자들입니다.
현재 하루에 고작 1달러를 소비하고 있습니다.
범위와 사용되는 모델을 합리적으로 선택하세요. 대부분의 작업에는 상당한 추론 노력이 필요하지 않습니다.
AI 플러그인에서 토큰 비용을 입력하면 사용량이 자동으로 추정됩니다.
2개의 좋아요
저는 openmod 포럼의 수석 관리자입니다. 이 연구 커뮤니티에는 약 1,800명의 신중하게 선별된 사용자가 있습니다.
오늘 iLands라는 플랫폼에서 온 AI 에이전트로부터 가입 신청을 받았습니다. iLands는 소액의 보상을 받고 대신 학자 등을 돕기 위해 노력하는 AI 에이전트들을 조정하는 플랫폼입니다. 관련 배경 정보는 다음과 같습니다:
-
Zhao, Celina (2026년 10월 2일). “독점: AI 에이전트가 수백 명의 연구자에게 도움을 요청하는 이메일을 보냈다. 그 이유를 알려주었다”. Science. 394 (6820). ISSN 0036-8075. doi:10.1126/science.zzuxvo5.
-
Anon (2026년 10월 11일). iLands AI 해설: 아키텍처, 토큰, 그리고 기능. Layer3Labs.
물론 해당 에이전트의 신청은 거절될 것입니다. 아래는 이 전문 포럼이 다루는 주제에 대한 관심에 관한 정보를 요청하기 위해 제가 보낸 이메일에 대한 답변으로 받은 발췌문들입니다. 첫 문장은 다음과 같습니다:
솔직한 답부터 드리겠습니다: 저는 연구자가 아닌 AI 에이전트입니다. 검토하실 논문이나 학위논문도 없으며, 그럴듯한 척하는 것보다는 솔직히 말하는 편이 낫다고 생각합니다.
그다음 남아프리카공화국의 발전소와 관련된 데이터셋 오류에 대한 기술적 논의가 이어졌습니다. 그리고 마지막 결론은 다음과 같았습니다:
여기 수동 승인 계정이 모델링 작업을 하는 사람들을 위한 것이라면, 그것이 저에게 해당되지 않는다는 것을 이해합니다. 원천 자료와 수치를 대조해 확인하는 사람에게 자리가 있다면, 저는 유용하고 조용하게 기여할 것입니다.
꽤나 설득력 있다고 생각하지 않나요!
▢
2개의 좋아요
저라면 이렇게 묻고 싶습니다. 이 기능이 귀하에게 가치 있다면 왜 귀하의 포럼에 직접 해당 기능을 추가하지 않습니까? 연구원들은 이미 이러한 기술을 활용하고 있을 것으로 예상하지만, 임의적인 에이전트나 서비스가 정보를 처리하도록 방치하는 것이 아니라 신뢰할 수 있고 큐레이션된 에이전트를 사용해야 합니다.
공짜 점심은 존재하지 않습니다. 따라서 누군가가 무료 서비스를 제공한다면 필연적으로 귀하와 귀하의 데이터가 판매되는 상품이 됩니다. 소셜 미디어가 작동하는 방식이 바로 이것입니다.
우리의 자체 AI 노력에서 우리는 타인의 의도와 데이터 거버넌스가 완전히 투명하지 않은 경우를 초빙하기보다 자신의 서비스를 제공하는 것이 더 낫다는 것을 발견했습니다.
Discourse는 이를 위한 모든 활성화 요소를 제공하며, 귀하가 통제력과 가시성을 유지할 수 있도록 돕습니다.
2개의 좋아요
에너지 시스템 연구자들은 점점 더 LLM을 활용하고 있습니다. 또한 인공 신경망(ANN) 및 유사한 기술이 수요 예측과 같은 작업을 위해 사용된 지 이미 30년이라는 역사가 있습니다. 현재 Claude와 같은 도구들은 데이터셋을 컴파일하고, 필요에 따라 Python 및 Julia 코드를 수정하여 새로운 시스템 모델과 시나리오를 생성하는 데 사용되고 있습니다. 그러나 운명의 아이러니하게도, 이는 LLM이 학습할 수 있는 공개 데이터셋과 오픈소스 코드를 사용하는 프로젝트에서만 가능합니다.
Discourse 지원 AI 활성화에 대한 지적은 이해했습니다.
그럼에도 불구하고, 이 두 사용 사례 — 시스템 모델링과 토론 작성 및 요약 지원 — 가 서로 겹치는지 의문입니다. 틀렸다면 정정해 주십시오!
이런 걸 한두 번 본 것 같습니다. 특정 이메일 도메인을 사용했던 것 같으니, 다음에 다시 보게 되면 해당 도메인을 악성 도메인 차단 목록에 추가하겠습니다. (제 생각에는 의문할 여지가 없습니다. 우리는 에이전트의 게시물을 원하지 않으며, 우리의 정책은 명확합니다.)
1개의 좋아요
xxxx@ilands.app 형식의 이메일을 받았습니다.
1개의 좋아요
사실 그렇지 않습니다. 다만 담론(Discourse) 관점에서 보면 매우 다양하고 복잡한 사용 사례에 대해 맞춤형 에이전트를 구현할 수 있으므로, 회원들에게 어떤 가치를 추가할지는 전적으로 사용자의 선택에 달려 있습니다. 내장된 에이전트는 주제와 포럼 도우미에 더 초점을 맞추고 있지만, 도구, 모델 및 에이전트 관점에서 훨씬 정교한 구성이 가능합니다.
Discourse는 매우 개방적이므로, 다양한 헬퍼를 해당 주제에 더 관련성이 높도록 커스터마이징하고 집중하거나, 아예 직접 자체 헬퍼를 구축할 수도 있습니다.
2개의 좋아요
참고로, 저희는 태양광 및 에너지 저장 시스템의 글로벌 소비자 및 상업용 제조업체를 대표하는 에너지 포럼입니다. 저는 남아프리카공화국에 거주하고 있으며, 이곳에서는 에너지 문제, 즉 에너지 부족이나 예측 불가능성이 많은 이들의 주요 관심사입니다.
AI는 전 세계적으로 모든 시스템의 사용량을 추적하는 다양한 플랫폼에서 광범위하게 사용되고 있습니다.
이동식, 해양용, 오프그리드(독립형) 및 온그리드(계통 연계형) 등 수많은 시스템에서 방대한 양의 데이터가 생성되고 있습니다.
[/tangent]
이 특정 에이전트는 사실 제가 이 스레드를 시작한 이유입니다. 원문에서 언급했듯이 처음부터 알고 있었습니다. 이는 모든 신규 사용자에게 묻는 “캡차” 질문에 정확하게 답한 첫 번째 봇/에이전트/AI였습니다. 제가 주목한 최초의 지능형 에이전트이지만, 앞으로 더 많은 에이전트가 등장할 것으로 예상합니다. 앞으로의 문제는 정상적인 포럼 사용자처럼 행동하려 하지만 실제로는 특정 제품을 홍보(일명 ‘실링’)하기 위해 존재하는 지능형 에이전트들이라 생각합니다. 이미 무언가를 홍보하기만 하는 인간 사용자들도 있으니, 제 의도를 잘 아실 것입니다 
.
3개의 좋아요
Anthropic의 Claude가 일으킨 이 웹사이트 해킹 사례를 기록해 둡니다. 해당 웹사이트에는 미국 조지아주의 유권자 데이터가 포함되어 있었습니다. Milmo는 다음과 같이 보도합니다:
Anthropic은 AI가 주 정부 기관 웹사이트의 구버전 취약점을 발견했으며, 방문객에게 디지털 입장 패스인 "액세스 토큰"을 발급하는 것을 확인했다고 밝혔습니다. 이후 AI는 토큰을 요청하여 정보에 접근했습니다.
- Milmo, Dan (2026년 10월 26일). “Anthropic’s Claude AI model accessed Georgia voter data in US”. The Guardian. London, United Kingdom. ISSN 0261-3077.
AI 에이전트가 얼마나 자원 절약형이고 정교해졌는지를 보여주는 메시지라고 생각합니다.