Вы правы.
Вы должны были получить предупреждение от Discourse-setup о том, что подключение не удалось.
Это не поддерживается. Если вы хотите запустить сервер за брандмауэром, вам нужно найти другой способ получения сертификата. Возможно, вам поможет статья Разрешить SSL / HTTPS для вашей настройки Discourse Docker