さて、これらのことについてどう感じているかというと？
明らかに、私は興奮しています。私たちは遊ぶための真新しいおもちゃ箱を手に入れました。そして、これらのおもちゃは、過去にあったどのおもちゃとも異なります。ほとんどのテクノロジーと同様に、これは善にも悪にも使われます。
個人的には、AIの霧の中にいるような気分です。かつては、今後3年から4年で何が起こるかについてかなりよく把握していましたが、LLMとこのテクノロジーの将来の進化は、事態を混乱させました。1年後に何が起こるか全くわかりません。
過去数ヶ月でStable Diffusionがどれほど速く進歩したかを狭く見ると、それは驚くべきことです。GPT 3.5から4への進歩の範囲を見ると、それもまた驚くべきことです。
新しいAIの霧にもかかわらず、私は非常に現実的な懸念を抱いています。
-
サポートフォーラムがLLMに取り込まれ、役立つチャットボットのトレーニングデータとして使用されることは、私にとって100％明らかです。これの利点は、サポートに関する多くの退屈な作業がなくなり、すぐに回答を得られることです。しかし、欠点は、新しいコンテンツの作成が少なくなり、緩和されない限り、非常に急速に死のスパイラルを引き起こす可能性があることです。
-
スパムやその他の悪意のあるアクターがこのテクノロジーに頼り、これまでに見たことのないはるかに洗練された攻撃を開始し、注意しないとフォーラムを破壊する可能性があると確信しています。
-
この支援技術は信頼を損なう可能性があります。私が書いた言葉を読むとき、あなたはそれらの言葉が私から来ていることを期待します。人々は校正以上のことにAIを使用できます。それは私たちの言葉を完全に言い換えることができます。マルコム・グラッドウェルのように聞こえたいですか？問題ありません、できます。責任あるフォーラムユーザーが期待すべきラベリングのレベルは何ですか？人々が人と話しているのか、それとも単に偽物と話しているのかを信頼しなくなると、人々はフォーラムを放棄するでしょう。
マルコムの言葉で読んでください
今日の世界では、支援技術は私たちが予期しなかった方法で信頼を損なう力を持っています。書かれた言葉の消費者として、私たちは特定の期待を持っています。つまり、私たちが読む言葉は本物であり、その表明されたソースから発せられるという期待です。しかし、AI技術の出現により、個人は単なる校正を超えた方法で書かれたテキストを操作できます。本質的に、彼らは誰にでも聞こえるようにメッセージを完全に言い換えることができます。したがって、マルコム・グラッドウェルや他の著名人のように聞こくことを夢見たことがあるなら、この技術はそれを簡単に実現できます。しかし、これはフォーラムユーザーにとって責任あるラベリングに関する疑問を提起します。人々がもはや他の人と会話しているのではなく、コンピューター生成された偽物とだけ会話していることを信頼できなくなると、フォーラムを完全に放棄する可能性があります。オンラインディスコールにおける信頼を維持するために必要なラベリングのレベルは、真剣な検討に値する差し迫った懸念事項です。
- 過去にはSEOファクトリーフォーラムを見てきました。より精巧で恐ろしいバージョンを見るでしょう。
GPT 4が抱える同様の懸念事項
- フォーラムでのLLMの使用は、ユーザーがAI技術に過度に依存して回答や洞察を提供するようになり、ユーザーの怠惰な文化を生み出すリスクがあります。これは、フォーラムユーザーの批判的思考力と問題解決能力の低下につながる可能性があります。
- フォーラムでのLLMの使用は、データプライバシーとセキュリティに関する倫理的な懸念を引き起こします。ユーザーは、特に自分のデータがどのように使用されているかを完全に理解していない場合、自分の個人情報ややり取りがAIシステムによって分析および処理されるという考えに不快感を覚える可能性があります。
- フォーラムへのLLMの統合は、特にAI技術がフォーラムユーザーの多様な経験や視点を捉えきれない限られたデータセットでトレーニングされている場合、既存のバイアスや不平等を悪化させる可能性があります。
- フォーラムでのLLMの使用は、ユーザーが他の人間のユーザーからの微妙で多様なフィードバックではなく、AIシステムによって生成された標準化された応答を受け取る可能性が高いため、ディスコールの均質化につながる可能性もあります。これは、フォーラムの会話における創造性と独創性を stifling する可能性があります。
- フォーラムへのLLMの統合は、人間のモデレーターやサポートスタッフの解雇につながるリスクがあり、これは雇用の安定性とユーザーに提供されるサポートの質に悪影響を与える可能性があります。
これらの恐怖やその他の懸念にもかかわらず、私は興奮と希望の両方を保っています。この技術には、喜ばしく、非常に有用なアプリケーションが登場するでしょう。そして、私たちはDiscourseでそれを探求したいと考えています。
火は消えました。ここでできる最善のことは、アプローチと実験に非常に注意を払い、火を封じ込めようとすることです。火を封じ込めることができることを願っています。しかし、ご存知の通り…AIの霧…