사실 상황에 따라 다르죠, 그렇죠? 위의 예시에서 만약 답변에 명백한 오류가 있었다면, 특히 독자를 더 큰 문제로 이끌 수 있는 오류였다면 게시자를 향해 화가 났을 겁니다. 사람들이 정보를 검증하고 적절성과 정확성을 확인하는 시간을 들인 후 AI 답변을 게시하는 것에는 문제가 없습니다. 더 나아가, 생성된 콘텐츠가 자신이라면 어떻게 정보를 공유했을지와 비슷하거나 더 나은 수준이라고 동의한다면 더 좋습니다.
반면, 단순히 LLM에 무언가를 넣고 답변을 복사해서 붙여넣은 채로, 그 내용이 정확한지 판별하는 것은 나와 같은 독자의 몫이라고 기대한다면, 나는 기분이 좋을 수 없습니다. 잘못된 정보를 정확한 것처럼 제시함으로써 내 시간을 낭비시키는 것뿐 아니라, 커뮤니티 전반의 신뢰성, 혹은 적어도 여러분 자신의 향후 답변에 대한 신뢰성을 떨어뜨리는 행위이기 때문입니다.
앞으로 수년 내에 많은 선의의 사람들이 포럼에서 LLM 사용을 줄일 것으로 예상합니다. 남아 있는 사람들은 악의적인 행위자이거나, 애초에 포럼의 본질을 이해하지 못하는 사람들이 될 것입니다. 이는 순전히 일화일 뿐이지만, 저는 약 2년째 매일 LLM을 사용해 왔고, 점점 더 스스로 생성한 콘텐츠로 넘어가고 있습니다. 어제 저는 크게 신경 쓰이지 않는 블로그 글을 쓰려고 했습니다. GPT를 사용해 보기로 했는데, 어떻게 하든 항상 GPT 특유의 어조가 나서 매우 싫었습니다. 그래서 Claude를 시도해 보았지만, 1시간 동안 작업해도 그 콘텐츠는 실제 살아있는 사람이 쓴 것처럼 들리지 않았습니다. 결국 총 3시간을 허비한 후, 모든 것을 버리고 1시간 만에 직접 글을 썼습니다.
이 이야기의 핵심은 이렇습니다. 적어도 제 경우, 모델이 아무리 좋아져도 스스로 생성한 콘텐츠가 점점 더 보람 있는 것으로 입증되고 있습니다. LLM을 사용하는 다른 사람들도 앞으로 2~3년 안에 그 단계에 도달하길 진심으로 바랍니다. 그렇게 된다면 포럼의 AI 답변은 악의적인 행위자나, 선의지만 더 나은 방법을 모르는 사람들로부터만 나올 것입니다. 어느 쪽이든 그 상황은 콘텐츠를 다루기 훨씬 쉽게 만들어 줍니다. 악의적인 행위자는 제재하고, 선의의 사람들을 교육하며, "명확하게 콘텐츠를 소화했으며, 게시하는 콘텐츠의 내용이 자신의 의견과 이해를 반영한다고 완전히 동의하고, 그 콘텐츠가 본인이 직접 생성했을 때보다 동등하거나 더 소화하기 쉬운 방식으로 자신의 의견을 표현하는 경우를 제외하고는 AI 콘텐츠가 금지된다"와 같은 모더레이션 정책을 세울 수 있기 때문입니다.
참고로, 이 관점이 정말 마음에 듭니다:
처음에는 바로 동의하지 않았지만, 잠시 생각해 보니 이 말이 틀리지 않다는 것을 완전히 이해할 수 있습니다.