要約に関するフィードバックです。これは非常に有望に見えます 
ポップアップの幅が足りません
なお、gpt-3.5には16kトークンの制限を持つバージョンがあり、これはここで非常に役立つ可能性があります。
そして、私が望む2つのキラー機能です。
現在、単純なプロンプトを使用していますが（OpenAIまたはAnthropicが選択されている場合）、現在作業中のため、すぐに変更します。
カスタマイズは興味深い機能であり、将来的に追加する可能性があります。
今週、少なくとも1件の返信がある投稿に表示されるようにしました。
OpenAIの大規模コンテキストモデルは、リリースされた日に追加しました。現在、以下を選択できます。
生成された要約をキャッシュするための作業が進行中であり、これにより他の場所で使用できるようになり、このような機能が利用可能になります。
私のサイトでは表示されませんが、これを制御する設定はありますか？
その他の提案：
今週行った変更ですので、数日中にサイトに展開される予定です。
ここで「パイプライン」とはどういう意味ですか？
こちらがMetaでの例ですが、すでに実施しています。古い要約は「トップ返信を表示」と呼ばれるようになりました。ボタンのデザインと順序については、まだ作業中です。
それはロードマップにあります！
これは、以下に従って行われます。
多数のデプロイメントを作成する必要があるため、設定は非常に面倒ですが、うまく機能します。
編集済み
Gemini 1.5 Flash を使用すると、要約に複数の投稿へのリンクが含まれることがよくありますが、複数のリンクはリンクとしてレンダリングされません。他のモデルが複数のリンクを使用しようとしているのを見た記憶はありません。
単一の投稿へのリンクは正しくレンダリングされます。
対応するレスポンスペイロードには、次のテキストが含まれています。
[Username redacted](/t/-/56915/8, /t/-/56915/13, /t/-/56915/28, /t/-/56915/33, /t/-/56915/36)
複数のリンクを引用するというアイデアは、正しくレンダリングできれば非常に気に入っています。
それは単に無効なMarkdownなので、機能しないのです。
Gemini Flash が適切なMarkdownを生成できないのは残念です。ここではMetaでは、要約のためにFP8に量子化されたLlama 3.1を使用しており、適切なMarkdownリンクを問題なく生成できます。
そして、haikuは有効なステータスコードを返せないようです。これまでに試した要約機能は2つです。次にLlama 3.1を試します。
月曜日のチェックや、この特定のMarkdownのような既知の問題のパッチ適用を検討していただけるかどうかは分かりません。理想的ではないことは承知していますが、そうでなければ良いLLMの選択肢を失うよりも良いかもしれません。
https://discuss.ai.google.dev/ で無効な要約を確認できますか？
そこでフラッシュを使用しています。いくつかリンクしていただければ、プロンプトエンジニアリングを少し行うことができます。
これは非常に修正可能だと思います。なぜなら、現在のプロンプトを次のように改善できるからです。
あなたは、提供されたテキストの簡潔で一貫性のある要約を生成する高度な要約ボットです。\n\n- 追加のコメントなしで、要約のみを含めてください。\n- DiscourseフォーラムのMarkdown（リンク、_イタリック_、**太字**を含む）を理解し、生成します。\n- 要約するテキストの元の言語を維持してください。\n- 要約は400語以下を目指してください。\n- 各投稿は「<POST_NUMBER>) <USERNAME> <MESSAGE>」の形式でフォーマットされます。\n- 特定の注目すべき投稿は、[NAME](/t/-/31793/POST_NUMBER)の形式で引用してください。\n - 例：samによる3番目の投稿へのリンク：[sam](/t/-/31793/3)\n - 例：janeによる6番目の投稿へのリンク：[agreed with](/t/-/31793/6)\n - 例：joeによる13番目の投稿へのリンク：[#13](/t/-/31793/13)\n- ユーザー名をフォーマットする場合は、@USERNMAE または [USERNAME](/t/-/31793/POST_NUMBER) のいずれかを使用してください。
これは少し曖昧に感じられます。次のようなもので具体化できます。
根本的には、@Roman / @Falco、これらのプロンプトをソースコードツリーから追い出し、コミュニティがそれらを微調整して、より良いものを共有できるように、ペルソナに配置する必要があるでしょう。
長期的に、弱いモデルに特別なケースのプロンプトが必要になるとしても、驚きません。
「例」をサポートしていれば、ペルソナはここでうまく機能するでしょう。これはそれほど大きなストレッチではないように思えます。そうでなければ、CompletionPromptに移動してUIを提供します。
プロンプトをニーズに合わせてカスタマイズし、モデルの機能を活用するというアイデアは気に入っています。また、ペルソナをより機能に依存しない概念にすることは良いアイデアだと思います。
これは基本的に、今年議論してきた「ペルソナ関数」、「プリペアドステートメント」のアイデアです。AIヘルパー、要約、検索などをすべてそれらを使用するように移動し、カスタム作成を許可し、UIでそれらをUIの機能に関連付けるためのUIを用意します。
シードされたものをXMLからJSONのような異なる形式に更新すると、問題が発生するため、来年構築を検討できることを願っています。
最後の数投稿が完全に理解できません。無効な要約がまだ表示されます。ペルソナで試せる特定のことはありますか、それとも議論されているリファクタリングを待つ必要がありますか？
4件の投稿が新しいトピックに分割されました: Dealing with DeepSeek JSON Response Format Issues
