AI 기반 스팸을 경험하고 계신가요?

커뮤니티 구축
10

실제로, 채팅GPT나 기타 AI를 이용해 게시글을 남긴 사용자가 잠입해 있는 것을 우연히 발견했습니다. 제가 놓친 스팸 계정이 더 있을 수도 있습니다.

이를 대처하기 위한 몇 가지 아이디어:

  • VPN 제공업체 데이터베이스를 구축합니다. 해당 사용자의 IP 주소는 VPN 서비스 제공업체인 "M247 Europe SRL"에 속합니다. 새로운 계정이 VPN을 사용하고 있다는 알림 기능이 있었으면 좋았을 텐데, 현재는 수동으로 확인하고 있습니다.
  • 읽기 시간, 방문 일수, 읽은 주제/게시글 수를 추적합니다. 이 사용자는 사이트를 8분 동안 읽었지만 6개의 댓글을 남겼고, 가입 당일 3번만 방문했습니다. 실제로 이 사용자는 아직 TL0 상태입니다. 댓글 게시 외에는 거의 아무 활동도 하지 않았기 때문입니다.
  • 이 페이지의 댓글에 더 많은 아이디어를 작성해 두었습니다.

사이트 체류 시간 대비 작성한 단어 수 비율, 그리고 VPN, 복사 붙여넣기된 콘텐츠, 주입된 콘텐츠 등 기타 신호를 기반으로 사용자를 대략적으로 분류할 수 있는지 궁금합니다. 의심스러운 계정은 검토를 위해 표시할 수 있을 것입니다.

수정: 이 빠른 Data Explorer 쿼리를 통해 몇 개의 추가 계정을 찾았지만, 그중 일부는 이미 정지 처리되어 있었습니다.

SELECT
    u.id,
    u.created_at,
    u.username,
    u.trust_level,
    us.time_read,
    us.days_visited,
    us.topics_entered,
    us.post_count,
    us.topic_count
FROM users u
LEFT JOIN user_stats us
ON us.user_id = u.id
WHERE u.trust_level < 1
AND u.created_at > '2023-01-01'
AND us.time_read < 1000 -- seconds
AND us.post_count > 1
3개의 좋아요