Discourse AI causando nuevos errores de SSL y Connection Reset by Peer

[Falco]

@oznyet

Todos los modelos de OpenAI tienen una tasa de error de aproximadamente 70-80% para las llamadas LLM con el mensaje de error “Connection Reset by Peer”. Algunos chats se completan, otros fallan a mitad de camino. Las llamadas de incrustación fallan con un error SSL Faraday::ConnectionFailed.

Hemos realizado más de 2000 solicitudes a la API de OpenAI en este sitio en el último mes, y no tenemos errores como ese en nuestros registros.

Entré en otro sitio que alojamos y que utiliza intensivamente OpenAI, con 80.000 solicitudes el mes pasado y tienen cero errores de Faraday, y solo dos errores de “Connection Reset by Peer” en el período.

¿Es posible que haya algo mal en la red de su servidor? Tuve Errno::ECONNRESET (Connection reset by peer) una vez debido a un controlador NIC defectuoso.

@oznyet

no1-mini y o1-preview fallan al probar/guardar el LLM con un error de código (‘developer’ no es un rol válido) porque el rol de desarrollador solo es válido para los modelos o1 y o3, no para sus versiones -mini. El código fuente github.com/discourse/discourse-ai/…/chat_gpt.rb:61 necesita ser actualizado para que coincida exactamente con el nombre del modelo y no con una coincidencia starts_with. Para el caso else en la línea 73, ya no existe un usuario system y debe actualizarse para que sea simplemente user. A partir de hoy, o1-mini no puede usar herramientas.

Lo investigaré.