AI 정기 보고서에서 GPT 3.5 turbo가 여전히 작동하지 않음

기여 버그
1

여러분, 안녕하세요. 플러그인을 업데이트했지만 GPT 3.5 turbo가 여전히 작동하지 않습니다.

Message (3 copies reported)

Error running LLM report! : DiscourseAi::Completions::Llm::UNKNOWN_MODEL : DiscourseAi::Completions::Llm::UNKNOWN_MODEL

Backtrace

/var/www/discourse/plugins/discourse-ai/lib/completions/dialects/dialect.rb:27:in `dialect_for'
/var/www/discourse/plugins/discourse-ai/lib/completions/llm.rb:64:in `proxy'
/var/www/discourse/plugins/discourse-ai/lib/automation/report_runner.rb:67:in `initialize'
/var/www/discourse/plugins/discourse-ai/lib/automation/report_runner.rb:33:in `new'
/var/www/discourse/plugins/discourse-ai/lib/automation/report_runner.rb:33:in `run!'
/var/www/discourse/plugins/discourse-ai/discourse_automation/llm_report.rb:75:in `block (2 levels) in <main>'
/var/www/discourse/plugins/discourse-automation/app/models/discourse_automation/automation.rb:135:in `trigger!'
/var/www/discourse/plugins/discourse-automation/app/jobs/regular/discourse_automation_trigger.rb:13:in `execute'
/var/www/discourse/app/jobs/base.rb:297:in `block (2 levels) in perform'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rails_multisite-5.0.0/lib/rails_multisite/connection_management.rb:82:in `with_connection'
1개의 좋아요
2

안녕하세요 @whitewaterdeu :wave: - 자동화 스크립트에서 여전히 잘못된 모델 이름(gpt-3-5-turbo)을 사용하고 있는 것 같습니다. 스크립트 설정에서 모델 이름을 gpt-3.5-turbo로 수정해 주시겠어요?

3

감사합니다 :kissing_heart:, gpt-3.5-turbo로 변경했는데 작동은 하더라고요. 그런데 또 다른 버그가 발생했어요

openai로 전송되는 토큰 수를 줄여야 할 것 같은데, 어떻게 해야 할지 모르겠어요

Message

DiscourseAi::Completions::Endpoints::OpenAi: status: 400 - body: {
  "error": {
    "message": "This model's maximum context length is 4097 tokens. However, your messages resulted in 5605 tokens. Please reduce the length of the messages.",
    "type": "invalid_request_error",
    "param": "messages",
    "code": "context_length_exceeded"
  }
}


Backtrace

/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:91:in `block (2 levels) in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2353:in `block in transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http/response.rb:320:in `reading_body'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2352:in `transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2306:in `request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.0/lib/patches/net_patches.rb:19:in `block in request_with_mini_profiler'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.0/lib/mini_profiler/profiling_methods.rb:50:in `step'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.0/lib/patches/net_patches.rb:18:in `request_with_mini_profiler'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:89:in `block in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:1570:in `start'
4

그렇게 할 수 없습니다. 콘텐츠가 컨텍스트 윈도우에 맞게 자동으로 잘려야 합니다. 우리 코드에 버그가 있는 것 같습니다.

이 문제를 해결하는 동안 컨텍스트 윈도우가 두 배인 gpt-4로 전환해 보세요.

3개의 좋아요
6

stale로 닫습니다. GPT-3.5는 더 이상 사용되지 않아야 하며, 현재 모델의 대부분은 매우 큰 컨텍스트 윈도우를 갖추고 있습니다.