ユーザーごとに感情分析が公開されることには、個人的に抵抗があります。また、スタッフがこれを見ることができる機能であることや、そもそもこれが機能であるべきかどうかにさえ、まだ確信が持てていません。
「感情」に関する私の主な問題は、それが本質的に意見であり、言葉の解釈に基づいた判断であるということです。AIにそれを与えるべきかどうか、まだ確信が持てていません。
感情がどのように、そして何から導き出されるかを示すデータが私たちにあるとは思えません。私の知る限り、それはブラックボックスに近いですが、間違っている可能性もあります。
感情分析に関する私の懸念事項をいくつか挙げます。
-
アイデアに異議を唱え、反論を提供する人物は、否定的な感情と見なされるのでしょうか？
-
ポジティブすぎる（toxic positivity）場合はどうなりますか？
-
また、これはフォーラム固有のものですか？フォーラム全体という一般的な文脈に基づいて評価されるのでしょうか？一部の人が「間違っている」と見なすアイデアを議論するためのクローズドフォーラムがある場合、AIの感情が正しい/間違ったトピックを決定するのでしょうか？それとも、それはコミュニティ内で導き出されるのでしょうか？
-
AIが一般的に幻覚（hallucinating）を起こし、常に小さな不正確さをもたらす場合、感情分析においても幻覚を起こさないとどうして確信できるでしょうか？