Suspeito que o Discourse esteja tentando se conectar ao servidor SMTP com TLS em vez de STARTTLS.
Você pode tirar um print das configurações relevantes?
Por favor, oculte nomes de host e nomes de usuário específicos, mas deixe as informações de porta e outras configurações.