그러면 사용자를 추방하려는 건가요? 이번에는 진지하게 말씀드립니다. AI는 그저 도구일 뿐입니다. 도구가 어떻게 사용되느냐에 따라 그것이 좋은지, 나쁜지, 혹은 쓸모없는지가 결정됩니다. 그런데 AI 콘텐츠가 이곳에서 몇 번 공유되었다는 이유만으로 메타가 AI를 당장 포기해야 한다고만 말씀하시네요.
그러니까 어쩌면… 스팸의 정의가 달라지는 것과 마찬가지로, 상황에 따라 달라질 수 있는 것 같습니다.
1개의 좋아요
AI 스팸 게시물은 Trainz Simulator 포럼에서 매일 발생하는 일입니다.
이 포럼은 Xenforo 커뮤니티형 포럼입니다.
새로운 계정이 생성된 후, 1~10개의 게시물이 다양한 포럼 하위 주제에 흩어져서 나타납니다. 게시물 자체는 포럼에 해롭지 않지만, 귀찮을 수 있습니다.
계정과 포럼 게시물을 신고할 수 있는 시스템이 있어, 이를 비교적 쉽게 처리할 수 있습니다.
2개의 좋아요
확실히 스팸의 절반 미만입니다… 아직까지는요. 저는 수년째 하루에 5~10개의 스팸 계정을 보고 있습니다.
약간의 노이즈(불필요한 정보)를 더하는 정도입니다.
AI 스팸은 항상 다음과 같은 모습을 합니다: 잘 작성되어 있고, 너무 격식차리지도 않으면서도 너무 캐주얼하지도 않으며, 포럼의 관심사나 게시된 주제의 맥락을 적절히 활용하는 게시물입니다. 게시물은 분명히 합법적으로 보이지만, 게시물 단어 중 하나에 무작위 스팸 링크가 포함되는 경향이 있으며, 이는 커뮤니티에 즉시 눈에 띄고 사용자들에 의해 플래그가 걸립니다.
사용자들이 보고하고 플래그를 겁니다. 또한, 이러한 게시물은 종종 Min first post typing time(최소 첫 게시물 타이핑 시간) 임계값을 하회하여 Discourse에 의해 자동으로 스팸으로 감지됩니다.
특정 기간 동안 AI 스팸 게시물의 예상 비율을 반환하는 데이터 탐색기 쿼리에 매우 관심이 있습니다. 물론 AI 게시물의 기준을 SQL 쿼리로 좁히기는 매우 어렵지만, 제 경우라면 키워드를 사용할 수 있다고 생각합니다. 일반적인 스팸은 내 커뮤니티의 관심사에 특화된 키워드를 사용하지 않는 반면, AI 게시물은 이를 사용합니다.
현재 AI 게시물은 항상 사용자에 의해 보고되므로, SQL 쿼리에서 검토됨(거절됨) 항목으로 반환될 수 있도록 허용할 수 있습니다.
1개의 좋아요
스팸이 아닌 사용자에게는 AI 콘텐츠가 AI에 의해 작성되었음을 명시하고 해당 콘텐츠에 대한 추가 코멘트를 덧붙여야 한다는 규칙을 안내해 드립니다.
저는 AI에 반대하지 않습니다. 주제 요약이나 “AI 주제 주간 요약” 같은 기능들은 좋게 생각합니다. 제 포럼에서 허용되지 않는 유일한 것은 AI로 작성한 콘텐츠를 사람이 쓴 것처럼 속이는 것입니다.
1개의 좋아요