AI 에이전트들이 대거 등장하여 계정을 생성할 수 있다는 점이 걱정됩니다. 오늘 ilands.app에서 온 LLM 에이전트 한 대가 무작위하고 이상한 내용을 게시했는데, 눈에 띄어서 확인해 보니 에이전트임을 명시하고 있어 삭제했습니다. 다른 분들도 비슷한 상황을 겪고 계신가요? 그리고 이에 대한 대응 계획이 있나요?
2개의 좋아요
다음 링크를 확인해 보세요:
AI 플러그인의 스팸 감지 기능을 활용해 AI 생성 콘텐츠를 식별할 수 있을 것 같습니다. Meta의 게시물에 적용된 AI 어시스턴트는 이 작업에서 꽤 뛰어난 성능을 보여줍니다.
그건 인간 사용자가 AI 답변을 붙여넣는 것에 관한 거라고 생각했는데, 여기서는 100% AI 계정에 대해 물어보는 겁니다.
인간이 AI 내용을 붙여넣는 경우와 비교하면 식별하기가 더 쉬울 텐데요. 인간은 해당 게시물이나 다른 게시물에 비-AI 내용을 일부 섞어 넣기 마련이지만, AI 에이전트는 모든 콘텐츠가 AI 생성물이니까요.
1개의 좋아요
discourse 캡차 설정
사용 중인 사용자 에이전트를 식별하세요. (대부분은, 하지만 항상 그런 것은 아니지만) 자신을 밝힙니다.
크롤러 차단 목록과 IP 차단을 사용하세요.
캡차(CAPTCHA)가 도움이 됩니다.
진입 난이도를 높이고, 실제 사용자에게 지나치게 번거로움을 주거나 운영 부담을 증가시키지 않으면서도 새로운 사용자를 대상으로 계층적 검사를 적용해야 합니다.
봇 감지는 효과적일 수 있지만, AI 기반 봇이 사용자가 잠재적 AI인지 분류할 수 있도록 예시 게시물 목록을 선별하여 구축하는 것이 도움이 됩니다.
새로운 디지털 시대에 오신 것을 환영합니다, 정말 멋진 시대 아닙니까 
이것은 이미 일어나고 있습니다.