Discourse AI causando novos erros de SSL e Connection Reset by Peer

[Falco]

@oznyet

Todos os modelos da OpenAI têm uma taxa de erro de cerca de 70-80% para chamadas LLM com a mensagem de erro “Connection Reset by Peer”. Alguns chats funcionam, outros falham no meio. Chamadas de embedding falham com um erro SSL Faraday::ConnectionFailed.

Fizemos mais de 2 mil requisições para a API da OpenAI neste site no último mês, e não temos erros como esse em nossos logs.

Entrei em outro site que hospedamos, que usa intensamente a OpenAI, com 80 mil requisições no último mês e eles têm zero erros Faraday, e apenas dois erros “Connection Reset by Peer” no período.

É possível que haja algo errado na rede do seu servidor? Tive Errno::ECONNRESET (Connection reset by peer) uma vez por causa de um driver de NIC defeituoso.

@oznyet

no1-mini e o1-preview falham ao testar/salvar o LLM com um erro de código (‘developer’ não é uma função válida) porque a função ‘developer’ é válida apenas para os modelos o1 e o3, não para suas versões -mini. O código fonte github.com/discourse/discourse-ai/…/chat_gpt.rb:61 precisa ser atualizado para fazer uma correspondência exata do nome do modelo, não uma correspondência starts_with. Para o caso else na linha 73, não existe mais um usuário system e precisa ser atualizado para ser simplesmente user. A partir de hoje, o1-mini não pode usar ferramentas.

Vou verificar isso.