사용자별로 감정 분석 결과가 공개되는 것은 개인적으로 편안하지 않습니다. 또한 스태프가 이를 볼 수 있는 것에 대해서도, 혹은 이것이 아예 기능이 되어야 하는지에 대해서도 확신이 서지 않습니다.
"감정(sentiment)"에 대한 제 주요 우려는, 그것이 본질적으로 단어의 해석에 기반한 의견이자 판단이라는 점입니다. AI에게 이를 맡기는 것이 적절하다고 생각하지 않습니다.
감정이 어떻게, 어떤 방식으로 도출되는지를 보여주는 데이터가 있는지 의문입니다. 제 지식 범위 내에서는 이것이 더 블랙박스에 가깝다고 보지만, 제가 틀렸을 수도 있습니다.
감정 분석에 대해 제가 가지고 있는 몇 가지 문제점:
- 아이디어를 도전하고 반론을 제시하는 사람이 있다면, 그것이 부정적인 감정이 될까요?
- 독성 긍정(toxic positivity)은 어떻게 봐야 할까요?
- 또한, 이 기능은 포럼별로 적용되나요? 포럼 전체의 일반적 맥락에 기반해 평가하나요? 어떤 사람들은 “잘못된” 것으로 보는 아이디어를 논의하기 위한 비공개 포럼이 있다면, AI 감정이 주제에 대한 옳고 그름을 판단하나요? 아니면 커뮤니티 내에서 도출되나요?
- AI가 일반적으로 환각(hallucination)을 일으켜 작은 부정확성을 자주 만들어 낸다면, 감정 분석에서도 환각이 일어나지 않는다고 어떻게 확신할 수 있을까요?