Tris20
(Tristan)
1
AIの感情統合、特に@maikiとの議論の後、しばらくこのことを考えていました。ユーザー名やプロフィールに、その人がどのように振る舞ったりコミュニケーションをとったりする傾向があるかの短い説明を付けることは可能でしょうか？例えば、軽快で気まぐれなものにすることもできます。
「デイブを許してあげてください。彼は他の人よりも少し直接的に話すことがありますが（彼はいつも良い意図を持っています :)）」
または「サイモンは非常にフレンドリーです。彼のポイントを見つけるために、そのフレンドリーさの中から探す必要があるかもしれません」
これらはほんの思いつきの例です。主なユースケースは、私たちは皆、良い意図を持っているにもかかわらず、時々最もフレンドリーではない方法でコミュニケーションをとる人を知っているということです。あるいは、単に物事の言い方が少し風変わりな人かもしれません。彼らのスタイルに慣れていれば、理解して読むことができます。しかし、その人に慣れておらず、それが彼との最初のやり取りである場合、特定のコミュニケーションスタイルは誤解される可能性があります。直接性は失礼と見なされる可能性があり、フレンドリーさは偽善と見なされる可能性があり、いくつかの風変わりな点は読者には奇妙すぎて理解できないかもしれません。
このようなことが可能かどうか、そして可能であれば実際に機能するかどうか疑問に思います。
「いいね！」 10
Saif
(Saif Murtaza )
2
現在、ユーザープロフィールに対する感情分析を試しています（スタッフのみが閲覧できます）。将来的には、すべてのユーザーが閲覧できるようにする可能性もあると考えています。
モデルによっては、ユーザーのトピック/投稿履歴全体を調べることで、このような分析が可能になるかもしれませんが、ある程度は制限される可能性があります。
しかし、これは誤検知を引き起こす可能性があると思います。なぜなら、相手を親密に個人的に知らない限り、相手が本当に善意で言っていることをどうやって本当に知ることができるでしょうか？
追加の意見はありますか @sam @Falco？
「いいね！」 5
simon
3
少なくとも、なぜそれが悪い考えになりうるのかについて、内部で議論していることを願っています。
「いいね！」 7
このシステムが実装された場合、モデレーターが投稿に対するフラグを確認するかどうかを決定する際に、コミュニケーションスタイルの分析結果の違いに基づいて、ユーザーごとに異なる基準が適用されるのでしょうか？
この質問を誤解しないでください。むしろ、直接的なコミュニケーションスタイルで尋ねられる、友好的な質問として考えてください。
「いいね！」 1
Tris20
(Tristan)
5
ユーザーが自身の感情分析を見られるようにすることで、扱いにくいユーザーに考えさせるきっかけを与えられるのではないかと疑問に思っています。例えば、カスタマーサービスのデスクの後ろに鏡を置くというようなトリックのようにです。
もしかしたら、特に扱いにくいユーザーに対して、コミュニケーションパターンを変更する方法や理由へのリンクを添えることができるかもしれません。例えば、ユーザーが攻撃的な感情の増加を示している場合、自身の分析でそれを見ることができ、より良い結果をもたらす可能性のある代替コミュニケーション方法を概説するトピックへのリンクを提供することができます。
ComposerでのJIT感情分析
これを少し拡張すると、SaifにはComposerでのJIT分析のアイデアについても話しました。もし敵対的なトーンが伝わってくる場合、Composerは彼らに、まず冷静になってから後で戻ってくるように警告するかもしれません。
「いいね！」 4
ユーザーに自身の行動について内省を促すことは、賢明な実践であるように思われます。DiscourseのFAQと利用規約は、この優れたプラットフォームを使用して議論を行う数多くのコミュニティ内で、歓迎的で平等主義的なトーンを設定するために非常にうまく設計されています。すべてのメンバーがお互いに敬意を払うことを含む同じ基準に準拠することが期待されるという印象を最初から提示するコミュニティに参加することは、元気づけられます。センチメント分析システムが、代わりに、Daveのような一部のユーザーに、元の投稿で、そのような基準から逸脱する許可を与えるという誤った印象を与える可能性があるとすれば、それは残念なことです。一方、Simonのような親切なユーザーは、引き続き丁寧に行動することが期待されるでしょう。
「いいね！」 3
ユーザーごとに感情分析が公開されることには、個人的に抵抗があります。また、スタッフがこれを見ることができる機能であることや、そもそもこれが機能であるべきかどうかにさえ、まだ確信が持てていません。
「感情」に関する私の主な問題は、それが本質的に意見であり、言葉の解釈に基づいた判断であるということです。AIにそれを与えるべきかどうか、まだ確信が持てていません。
感情がどのように、そして何から導き出されるかを示すデータが私たちにあるとは思えません。私の知る限り、それはブラックボックスに近いですが、間違っている可能性もあります。
感情分析に関する私の懸念事項をいくつか挙げます。
-
アイデアに異議を唱え、反論を提供する人物は、否定的な感情と見なされるのでしょうか？
-
ポジティブすぎる（toxic positivity）場合はどうなりますか？
-
また、これはフォーラム固有のものですか？フォーラム全体という一般的な文脈に基づいて評価されるのでしょうか？一部の人が「間違っている」と見なすアイデアを議論するためのクローズドフォーラムがある場合、AIの感情が正しい/間違ったトピックを決定するのでしょうか？それとも、それはコミュニティ内で導き出されるのでしょうか？
-
AIが一般的に幻覚（hallucinating）を起こし、常に小さな不正確さをもたらす場合、感情分析においても幻覚を起こさないとどうして確信できるでしょうか？
「いいね！」 12
興味深いことに、あなたの投稿はセンチメント分類でこのスコアでした。
「いいね！」 10
ハッ！証明されたな。
この機能について懸念があり、その理由を挙げて反対しているのに、私の投稿は「否定的」と見なされている。
「いいね！」 7
個々の分析については、「非公開」に傾いていると思います。なぜなら、誰かを「否定的」（またはそれに類するもの）とラベル付けすると、不当なステレオタイプにつながる可能性があるからです。確かに、誰かが否定的である可能性もありますし、あるいは英語が母国語ではない可能性もあります…あるいは、AIが特定の主流文化規範に対して偏見を持っている可能性もあります。
ただし、管理者がこのようなツールを使用した場合、その個人が自分について何が言われているかを見ることができるのは公平だと思います。
物事を完全に循環させるために、この議論についてChatGPTに尋ねたところ、それは妥当な意見を提示しました。
AIの感情分析の主観性と、文脈や文化的なニュアンスを誤解する可能性を考慮することが重要です。また、プライバシーへの懸念や、AI生成のプロファイルに基づいてユーザーにラベルを付けたりステレオタイプ化したりするリスクにも留意する必要があります。
むしろ、中間的な解決策を探求できるかもしれません。公開ラベルの代わりに、個人の内省のためのオプションツールを検討することができます。これにより、ユーザーは自分のコミュニケーションパターンをプライベートに表示し、熟考することができます。これは、公に分類したり判断したりすることなく、自己認識を育むことができます。
「肯定的」「否定的」などのラベルを付ける代わりに、「あなたが使用する言い回しは、他者から否定的または役に立たないと見なされる場合があります」と提示し、ユーザーがその正確さについてどのように感じているかフィードバックを提供できるようにすることもできるかもしれません。
「いいね！」 8
simon
11
解決すべき実際の問題を強調することが役立ちます。
これについて言えることはたくさんありますが、ここで有益な会話につながるとは思いません。おそらく私が言える最も役立つことは、一般的に非挑戦的なユーザーであると（私はそう願っていますが）思う者として、「コミュニケーションスタイル」やAIによって生成された感情スコアのようなものをプロフィールに投稿しているフォーラムには一切関与しないということです。したがって、最終的には、一部の挑戦的なユーザーのコミュニケーションスタイルを改善するという潜在的な利益のために、一部の非挑戦的なユーザーからの貢献を失うリスクを冒すことになるかもしれません。
「いいね！」 8
Saif
(Saif Murtaza )
12
おそらく、これを明確にする必要があるでしょう。このエリアはまだ実験段階であり、何ができるか、何をすべきかを学び、改善しようとしています。具体的にこれを開放することは、将来的に現実になるとしても、まだ道のりは長いです。
「いいね！」 4
Tris20
(Tristan)
13
私にとっては、こちらの方が良い解決策のように思えます。ユーザーが投稿を改善するように促すだけでなく、フィードバックは日常生活での他者とのコミュニケーションを改善することにもつながるかもしれません。それは良い副産物になるでしょう 
おそらく、そのようなフィードバックは、ユーザーのトピックがコミュニティの他のメンバーよりも著しくトキシックである場合、またはコミュニケーションスタイルが誤解されやすいものと一致する場合にのみ表示されるべきでしょう。
そして、あなたの反対意見は非常に合理的なトーンで提示されていました。現在、私はそれを改善点として見ています。より優れたAIであれば、その返信を次のように認識するでしょう。「一般的に何かに反対しているが、中立的なトーンで」
実際、GPT4は次のように行います。
テキストの感情は、AIによる感情分析の信頼性と倫理的影響について、懐疑的で懸念しているものです。
テキストのトーンは、AI感情分析に対する不安と懐疑心を反映した、慎重で疑問を呈するものです。
したがって、それは失礼/有害な意味での「否定的」ではなく、賛成ではないという意味での「否定的」です。
ここでの応答を調べると、より価値があり受け入れられる解決策は、トキシックすぎる、または誤解の兆候を含む書き込みを、投稿する前に、適時に介入することだと感じています。ユーザーは元のコンテンツを投稿する権利を依然として持っています。私たちは、現在の形式で作成する可能性のある否定的な側面についてユーザーが十分に情報を持っていることを確認し、より生産的な代替案を提示するだけです。
「いいね！」 1
これは非常に生産的な良い代替案のように思えます 
- このフォーラムのユーザー、そしてこの機能が広く提供されるようになれば、他の多くのフォーラムのユーザーにとっても非常に協力的であり、彼らのコミュニケーションスタイルが管理のために隠された全体的な評価を受けていると考えるリスクを回避できます。
これは興味深いトピックですね。まず、人々が自分のコミュニケーション方法を自分の言葉で説明できるようにすると役立つと思います。
私の場合、テキストでのコミュニケーションは苦手ですが、比較的シンプルで短いコミュニケーション、例えば「会議は午前10時30分からです」といった程度なら可能です。
対面でのコミュニケーションでは、話したり書いたりする言葉そのものでコミュニケーションが定義されるのは約7%に過ぎないと聞いています。対面会議や電話での会話にも限界はありますが、Discourseプラットフォームは、レビューに時間がかかるような長文の公開や、多くの人が互いに邪魔することなく同時にコミュニケーションできる点で役立ちます。
誤解を避けるために、週に1回または月に1回はチェックインの電話会議を行い、人々の状況を確認し、書かれていることを理解しようとすることが役立ちます。
「いいね！」 1
Heliosurge
(Dan DeMontmorency)
16
ユーザーノートのようなプラグインはどうでしょうか？各メンバーが自分のプライベートノートを適用できるようなものです。あるいは、全員が見ることができるようなものですか？
「ラベル付けされた」ユーザーが外部ソースによってプロファイルされた場合、公開されるものがあると問題が発生します。気分を害する可能性があります。本人が選択したものでない限り。
メンテナンスされていないDiscourseプラグイン「User Feedback」があり、ユーザーは評価したり、設定されていればレビューを残したりできます。しかし、ユーザーが投稿されたものに気分を害した場合、同じ問題が発生する可能性があります。
以前、未熟なユーザーが👎リアクションに激怒したことがありました。
Discourseがユーザーミュートオプションを追加するずっと前に、ある人がタンパモンキースクリプトを作成しました。これにより、ユーザーは投稿を非表示にする人を追加でき、さらに楽しむためにラベル付けもできました。管理者、モデレーター、トピック作成者などが表示され、ユーザーにラベルを付けることができました。各ユーザーは基本的にブラウザのテーマコンポーネントを持つことができました。スクリプトを見つけられるか試してみます。テーマコンポーネントに変換するのはそれほど難しくないと思います。
カスタムユーザーフィールドを使用してユーザーを追加し、ラベルを付けることができるかもしれません。
Tris20
(Tristan)
17
これは、そのような連絡機会を持つチームやグループにとって素晴らしい解決策です。これを大規模かつ複数のタイムゾーンでどのように適用しますか？
私たちの場合、何千人もの同僚がすべてのタイムゾーンで、多くのチーム間でコミュニケーションをとることになります。残念ながら、そのような電話会議は不可能です。たとえ可能であったとしても、そのような電話会議は会話の重要な部分をプラットフォームの外に出してしまうため、他の人がそこから学ぶことができなくなります 
非常に真実です。これは、ユーザーを誤って特徴づけることから利益を得られない当事者、たとえばAIによってのみ実行できる理由だと考えます。
考えるほど、コミュニケーションスタイルに関する元の提案は、作成者におけるJITコミュニケーションコーチに劣るように感じます。何よりも、そのようなコミュニケーションコーチングが外部世界に浸透するという考えが気に入っています。「コミュニケーションスタイル」ではこれを達成できませんし、あなたが言うように、人々が誤って特徴づけられたと感じた場合（そしてその可能性が高い）、当然のことながら激怒させるでしょう。
「いいね！」 1
会議は規模が限られており、異なるタイムゾーンには推奨されません。
1つの選択肢は、事前に質問を書き込める質疑応答の電話会議を行い、後で聞けるように電話会議を録画することです。
riking
(Kane York)
20
これは、自動化された意思決定に関するGDPRの原則、第22条をここで持ち出す絶好の機会です。
投稿やプロフィールに公開された否定的なラベルを付けることは、ユーザーが合理的に異議を申し立て、人間の評価を要求できるものです。
したがって、ソフトウェアは、管理者が公開することに決定したものをオーバーライドできるようにする必要があります。
OPで理論化されたようなラベルは、管理者として手動で適用しても問題ないと感じますが、現在の感情分析技術（この人は否定的になりがちです！）から見たラベルは絶対にそうではありません。また、技術が否定的だと考えていることと、人々が否定的を判断として見たときにどう思うかとの間には、重大なメッセージングの問題があります。これは、「モデルが何をしているかを説明する」ことが開かれた研究分野であることによっても助けられていません。
「いいね！」 4
sam
(Sam Saffron)
21
ただし、以下の点を考慮すると：
- 機能はやや未完成でした。ドリルダウンがサポートされていなかったため、ラベルは非常にランダムに感じられました。
- 内部バグにより、機能が誤って一般公開されてしまいました。
- その機能が本当に価値を提供するかどうかさえ定かではありません。
そのため、現時点ではこの変更をロールバックし、再検討することにしました。
全体として感情分析は好きですが、正しく実装するのは非常に難しい機能です。モデレーションに役立つ可能性のある例としては、次のものが挙げられます。
- 今週のフォーラムの感情は非常に否定的です。トピックXとYについて多くの人が不満を言っていることが原因です。
- いつもは非常にポジティブなユーザーXが、今月は非常に非常に否定的です。何か連絡を取るべきでしょうか？
など…
多くのラベル付けよりも、「異常」検出や全体的な悪い傾向に関心があります。
「いいね！」 4
