Похоже, вы делаете всё правильно. Вы уверены, что ваш DNS указывает только на IP-адрес вашего сервера?
О. Я не могу с первого взгляда сказать, проверяет ли discourse-setup только IPv4.
Попробуйте запустить ./discourse-setup --skip-connection-test, чтобы пропустить проверку соединения.