Desde la versión beta 4 de 2.9.0, la configuración DISCOURSE_SMTP_OPENSSL_VERIFY_MODE y DISCOURSE_SMTP_ENABLE_START_TLS ya no funciona correctamente.
Esto parece estar relacionado con el cambio a Rails 7, que actualizó net-smtp de la versión 0.1.0 a la 0.3.1, lo cual cambió los valores predeterminados para estos dos parámetros de conexión.
La forma en que la gema smtp llama a net-smtp no deshabilita enable_starttls_auto y openssl_verify_mode; solo las habilita cuando están activadas.
Técnicamente, este error está fuera del código de Discourse, ya que ocurre en la gema smtp, pero dado que esta actualmente está bifurcada para Discourse, creo que esto justifica un tema Contribute > Bug. Si no se puede solucionar fácilmente, estos parámetros podrían eliminarse de la documentación y quizás mostrar un aviso de obsolescencia para que al menos desaparezca toda la confusión.