Sospecho que Discourse está intentando conectarse al servidor SMTP con TLS en lugar de STARTTLS.
¿Puedes hacer una captura de pantalla de la configuración relevante?
Por favor, oculta los nombres de host y nombres de usuario específicos, pero deja la información del puerto y otras configuraciones.