# なぜ私のフォーラム要約は常にハングするのですか？

**URL:** https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703
**Category:** Support
**Tags:** ai, ai-summarize
**Created:** [2024 年 10 月 24 日午後 11:50 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703 "2024-10-24T23:50:54Z")
**Posts on this page:** 7
**Page:** 1

<div class="post-metadata">

### Author: ![markschmucker](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/markschmucker/32/141599_2.png) [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [2024 年 10 月 24 日午後 11:50 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703/1 "2024-10-24T23:50:54Z")

</div>

コンテキスト長（たとえば128k）を超えるトピックが多く、問題が発生しています。最も「いいね！」が多い投稿のみに基づいて要約することを検討しましたか？最も「いいね！」が多い投稿から始め、次に「いいね！」が多い投稿を追加し、ターゲットコンテキスト長に達するまで続けます。その後、結果のテキストをGPTに渡しますか？少なくとも私たちのフォーラムでは、「いいね！」は「最も関連性の高い」の非常に良い代理指標です。

---

<div class="post-metadata">

### Author: ![Falco](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/falco/32/179432_2.png) [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [2024 年 10 月 25 日午前 12:02 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703/2 "2024-10-25T00:02:36Z")

</div>

それが長めのトピックでの仕組みです。トピックで最も「いいね！」された上位50件の投稿を使用します。

---

<div class="post-metadata">

### Author: ![markschmucker](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/markschmucker/32/141599_2.png) [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [2024 年 10 月 25 日午前 12:24 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703/3 "2024-10-25T00:24:28Z")

</div>

うーん、要約は長いトピックでハングアップするように見えるので、コンテンツの長さに起因すると仮定しました。デバッグのヒントはありますか？ gpt-o4を使用しています。OpenAIダッシュボードで特定のAPIリクエストを表示する方法がわかりません。

---

<div class="post-metadata">

### Author: ![Falco](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/falco/32/179432_2.png) [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [2024 年 10 月 25 日午前 1:17 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703/4 "2024-10-25T01:17:14Z")

</div>

`ai_api_audit_logs` テーブルでリクエストを確認できます。

要約の中断に関してですが、最近フロントエンドでいくつかのバグが発生していましたので、サイトを最新版にアップデートしてください。

---

<div class="post-metadata">

### Author: ![markschmucker](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/markschmucker/32/141599_2.png) [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [2024 年 10 月 25 日午後 2:55 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703/5 "2024-10-25T14:55:44Z")

</div>

エラーログでこれを見つけました。

`Request too large for gpt-4o in organization org-xxxxxxxxxxxxxxxxx on tokens per min (TPM): Limit 30000, Requested 45906.`

制限を増やすには、実際に50ドル（予算計上するだけでなく）を費やし、約1か月プラス7日間待つ必要があると思います。

 ![image](https://global.discourse-cdn.com/meta/original/4X/f/7/4/f748efde1024876b63de68e0dbd0dd2348c68272.png)

これまでのところ、2ドルしか使っておらず、まだ支払いは発生していません。また、Discourseでトークンを制限する方法もわかりません。そのため、現時点では長いトピックの要約を使用する方法がわかりません。

---

<div class="post-metadata">

### Author: ![Falco](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/falco/32/179432_2.png) [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [2024 年 10 月 25 日午後 3:56 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703/7 "2024-10-25T15:56:09Z")

</div>

ああ、問題は、OpenAIアカウントが制限されており、 **トークン/分** に制限があるため、DiscourseでのAI要約の使用に影響が出ているということですね。

それは残念ですね。Anthropic、AWS、Azure、Google Cloud、あるいはLlama APIプロバイダーのような代替プロバイダーを検討することをお勧めします。無料ティアがあり、現在の制限よりも高い制限を提供するプロバイダーがあると思います。

---

<div class="post-metadata">

### Author: ![markschmucker](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/markschmucker/32/141599_2.png) [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [2024 年 10 月 25 日午後 4:41 UTC](https://meta.discourse.org/t/why-does-my-forum-summarisation-keep-hanging/332703/8 "2024-10-25T16:41:02Z")

</div>

要約のために 4o から 4o-mini に切り替えたところ、最も長いトピックで機能するようです。どうやら OpenAI は GPT ごとに異なる制限があるようです。
