Parece que você está fazendo as coisas certas. Você tem certeza de que seu DNS resolve para o IP do seu servidor e apenas para lá?
Ah. Não consigo dizer rapidamente se o discourse-setup olha apenas para o IPv4.
Você pode tentar executar ./discourse-setup --skip-connection-test para pular o teste.