Se você estiver instalando em uma subpasta, o Discourse precisa ser configurado para isso. Caso contrário, não há como ele saber se está atendendo tráfego de um subdomínio ou de uma subpasta.
Ao apontar os links para o subdomínio, ele está fazendo o correto, como esperado. Você pode ter algum redirecionamento configurado, mas não tenho conhecimento de como seu fórum foi configurado. Talvez seja melhor verificar primeiro se tudo o que foi modificado fora do Discourse (proxies, redirecionamentos, etc.) está correto. Se tudo estiver OK, tente configurar o fórum para ser usado em um subdomínio através do método recomendado em: