Você já olhou em Solucionar problemas de e-mail em uma nova instalação do Discourse
Os problemas mais prováveis são que a porta está bloqueada e que seu servidor de e-mail não está configurado para o nome do host que você está tentando enviar (geralmente seu domínio do fórum)