Для стандартной установки необходимо удалить nginx. Discourse включает собственный nginx, поэтому дополнительный не требуется (если только вы не хотите использовать его по другой причине, что усложнит установку).
Скрипт пытается подключиться к самому себе, используя ваше доменное имя. Если доменное имя указывает на вашу виртуальную машину, то оно должно иметь возможность связаться с собой через это имя хоста, при условии, что DNS настроен правильно и порты 443 и 80 не заняты другими службами.
Если вы несколько раз пропустите проверку, то столкнетесь с ограничениями на количество попыток получения HTTPS-сертификата от Let’s Encrypt.