Discourse AI provoquant de nouvelles erreurs SSL et Connection Reset by Peer

[Falco]

@oznyet

Tous les modèles OpenAI ont un taux d’erreur d’environ 70 à 80 % pour les appels LLM avec le message d’erreur « Connection Reset by Peer ». Certains chats passent, d’autres échouent à mi-chemin. Les appels d’embedding échouent avec une erreur SSL Faraday::ConnectionFailed.

Nous avons effectué plus de 2 000 requêtes pour l’API OpenAI sur ce site le mois dernier, et nous n’avons aucune erreur de ce type dans nos journaux.

J’ai examiné un autre site que nous hébergeons, qui utilise intensivement OpenAI, avec 80 000 requêtes le mois dernier, et ils n’ont aucune erreur Faraday, et seulement deux erreurs « Connection Reset by Peer » sur la période.

Est-il possible que votre serveur ait un problème réseau ? J’ai eu Errno::ECONNRESET (Connection reset by peer) une fois à cause d’un pilote NIC défectueux.

@oznyet

no1-mini et o1-preview échouent lors du test/sauvegarde du LLM avec une erreur de code (« developer » n’est pas un rôle valide) car le rôle « developer » n’est valide que pour les modèles o1 et o3, pas pour leurs versions -mini. Le code source github.com/discourse/discourse-ai/…/chat_gpt.rb:61 doit être mis à jour pour effectuer une correspondance exacte du nom du modèle et non une correspondance starts_with. Pour le cas else à la ligne 73, il n’y a plus d’utilisateur system et il doit être mis à jour pour être simplement user. À ce jour, o1-mini ne peut pas utiliser d’outils.

Je vais examiner cela.