이 문제가 다시 떠올랐으니:
-
저는 실제로 사용하고 있지만, 비용은 매서운 눈으로 주시하고 있습니다. 가장 큰 우려는 통제 불능의 토큰 사용량입니다. 적어도 평균 토큰 사용량이 어느 정도가 정상인지 직감을 가질 때까지는 그렇습니다. 비용 한도를 설정할 수 있는 기능은 좋지만, 커뮤니티의 일반적인 사용량이 어떤지 확실히 알게 될 때까지는 마음이 편하지 않습니다. 그리고 그것은 시간이 걸리는 일입니다.
-
사용자 신뢰 문제는 매우 큽니다. 제가 어떤 메시지를 준비하거나 사이트 관리자로 어떤 말을 하든, LLM이 사용자 생성 콘텐츠를 학습에 사용하고 있으며 Discourse 시스템의 모든 사용은 “허가” 없이 사용자 데이터를 "판매"하는 것이라는 불변의 인식이 존재합니다. 제 경험에 비추어 볼 때 이는 많은 댓글 작성자들 사이에서 체계적인 문제이며, 사람들이 AI 기업들이 “실제로” 하고 있는 것을 “알고” 있기 때문에 결코 사라지지 않습니다. 포럼에서 AI 기반 분류를 활성화하고 그렇게 한다고 말하는 것은, "내 데이터를 어떤 AI 테크브로 회사에 보내서 내 글로 돈을 벌게 해주는 데 동의하지 않습니다!"라는 항의가 쏟아지는 결과를 초래할 수 있습니다. 모든 사람이 이런 것에 대해 우려하는 것은 아니지만, 우려하는 사람들은 분노를 느끼면서도 동시에 토론에는 전혀 관심이 없습니다. 이에 대한 좋은 답을 가지고 있지 않습니다.
-
포럼의 스팸 감지 상태를 [여러 회사의 모델들이 그 시점에 어떻게 "기분"을 내고 있는지에 따라] (AI spam bot says it is not spam but scan log says it is spam - #5 by Roman) 맡기는 것에 대해 다소 불편함을 느낍니다. 솔직하게 말하자면: AI 스팸 감지, AI 분류 및 기타 모든 AI 기능은 기본적으로 "자, 이건 그냥 AI의 문제로 넘기자"라고 말하는 것과 같고, 프롬프트 엔지니어링을 통해 우리가 원하는 것을 어떻게 코딩화할지 시도하는 것입니다. 작동은 하지만, 이 과정은 *짜증나도록 비결정론적(non-deterministic)*입니다. 기본적으로는 지금처럼 작동하기를 바라는 수밖에 없습니다. 저는 이것이 싫습니다. 전혀 싫지 않습니다. 제 도구가 적절히 결정론적이기를 원합니다. LLM은 결정론적인 것의 정반대이며, 우리는 OpenAI 등이 우리에게 던져주는 것에 포럼 기능의 일부를 의존하고 있습니다.
그럼에도 불구하고, 저는 AI 안티스팸과 AI 포럼 분류를 모두 사용하고 있습니다. 도움이 됩니다. 하지만 이러한 솔루션은 지속적으로 모니터링되어야 한다는 사실을 인지하려고 노력합니다.