GPT 3.5 turbo、AI 定期レポートでまだ動作せず

バグ
1

こんにちは皆さん、プラグインを更新しましたが、GPT 3.5 turbo はまだ動作しません。

メッセージ（3件報告あり）

LLM レポートの実行中にエラーが発生しました！ : DiscourseAi::Completions::Llm::UNKNOWN_MODEL : DiscourseAi::Completions::Llm::UNKNOWN_MODEL

バックトレース

/var/www/discourse/plugins/discourse-ai/lib/completions/dialects/dialect.rb:27:in `dialect_for'
/var/www/discourse/plugins/discourse-ai/lib/completions/llm.rb:64:in `proxy'
/var/www/discourse/plugins/discourse-ai/lib/automation/report_runner.rb:67:in `initialize'
/var/www/discourse/plugins/discourse-ai/lib/automation/report_runner.rb:33:in `new'
/var/www/discourse/plugins/discourse-ai/lib/automation/report_runner.rb:33:in `run!'
/var/www/discourse/plugins/discourse-ai/discourse_automation/llm_report.rb:75:in `block (2 levels) in <main>'
/var/www/discourse/plugins/discourse-automation/app/models/discourse_automation/automation.rb:135:in `trigger!'
/var/www/discourse/plugins/discourse-automation/app/jobs/regular/discourse_automation_trigger.rb:13:in `execute'
/var/www/discourse/app/jobs/base.rb:297:in `block (2 levels) in perform'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rails_multisite-5.0.0/lib/rails_multisite/connection_management.rb:82:in `with_connection'
「いいね！」 1
2

@whitewaterdeu さん、こんにちは :wave: - 自動化スクリプトでまだモデル名が間違っている（gpt-3-5-turbo）可能性があります。スクリプトの設定でモデル名を gpt-3.5-turbo に更新していただけますか？

3

ありがとうございます :kissing_heart:、gpt-3.5-turbo に変更したところ、動作しましたが、別のバグが発生しました。

OpenAI に送信するトークンを減らす必要があるようですが、その方法がわかりません。

メッセージ

DiscourseAi::Completions::Endpoints::OpenAi: status: 400 - body: {
  "error": {
    "message": "このモデルの最大コンテキスト長は 4097 トークンです。しかし、メッセージの結果は 5605 トークンになりました。メッセージの長さを短くしてください。",
    "type": "invalid_request_error",
    "param": "messages",
    "code": "context_length_exceeded"
  }
}


バックトレース

/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:91:in `block (2 levels) in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2353:in `block in transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http/response.rb:320:in `reading_body'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2352:in `transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2306:in `request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.0/lib/patches/net_patches.rb:19:in `block in request_with_mini_profiler'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.0/lib/mini_profiler/profiling_methods.rb:50:in `step'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.0/lib/patches/net_patches.rb:18:in `request_with_mini_profiler'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:89:in `block in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:1570:in `start'
4

それはできません。コンテンツは自動的にトリミングしてコンテキストウィンドウに収まるようにするべきです。コードにバグがあるはずです。

この問題を解決している間は、コンテキストウィンドウが2倍のgpt-4に切り替えることができます。

「いいね！」 3
6

staleとしてクローズします。GPT-3.5はもう使用すべきではありません。ほとんどのモデルは非常に大きなコンテキストウィンドウを備えています。