정말인가요? OpenAI조차도 이것이 가능하다고 주장하지 않습니다.
좋은 지적입니다. 그것은 단지 가능성이 있는 옵션으로 제안되었을 뿐입니다. 해당 블로그 게시글 이후 GPT4-Turbo와 Claude 3와 같은 더 나은 모델들이 등장했으며, 이론상으로는 더 나은 성능을 암시할 수 있습니다.
1개의 좋아요
여기서 전체적인 접근 방식에 대한 비판은 아니었습니다.
LLM을 사용해 스팸일 수 있음을 시사하는 텍스트의 특징을 찾는 것은 정말 훌륭한 목표이며, 이 추가를 전적으로 환영합니다.
제 유일한 문제점은 AI가 생성한 텍스트를 자동으로 식별할 수 있다는 주장이었습니다. 이는 매우 어려운 문제입니다.
차이를 주목해 주세요:
- LLM을 사용하여 일반적인 스팸을 식별하는 것 = 훌륭하며, 이것이 실현 가능하고 매우 가치 있을 수 있음을 이해할 수 있습니다.
- 스팸이 AI에 의해 생성되었는지 식별하는 것 - LLM을 사용하든 하지 않든, 이는 어렵습니다. 현재 모델들이 이를 구체적으로 잘 수행할 수 있다고 생각하지 않으며, 긍정적인 결과는 아마도 환각(hallucination)일 가능성이 높습니다.
3개의 좋아요
말씀하신 내용을 잘 이해합니다! 네, 훨씬 더 복잡한 문제입니다. 사실 제 초기 테스트에서는 두 가지 모두를 설정하도록 하려 했지만, 여기서는 스팸에만 집중하는 것이 더 나은 결과를 가져올 가능성이 큽니다.
2개의 좋아요
그러니까 우리는 의견이 일치하는 셈이죠.
다만, AI 사용의 몇 가지 징후는 분명히 있다고 생각합니다. 예를 들어 글의 길이와 지나치게 화려한 문체의 남용 같은 것들이죠 … 그래서 이런 측면들을 분석해 볼 수 있을 겁니다 … 글의 길이를 LLM으로 분석하는 것은 아마도 어려울 테지만, ‘화려함’ 정도는 상대적으로 덜 어려울 수 있습니다. 물론, 글의 길이를 기준으로 플래깅을 하려면 결정론적 함수를 사용할 수 있습니다.
한편, 누군가가 예를 들어 제2언어인 영어를 다듬기 위해 ChatGPT를 사용했다면, 그런 글을 플래깅하는 것은 커뮤니티 전체의 포용성에 도움이 되지 않을 가능성이 큽니다.
한 발 더 나아가면, 일반적인 머신러닝 기법이 유용할 수 있지만, 텍스트를 LLM에 보내서 결과를 받는 것만 구현하는 것보다는 훨씬 복잡할 수 있습니다.
2개의 좋아요