Así que, logré que funcionara. Parece que era un problema con el DNS, de alguna manera (porque sí podía resolver la URL al usar los comandos getent y openssl). Así que ejecuté getent para obtener la IP del host del relé SMTP y ejecuté el contenedor cambiando la dirección del servidor a la IP bruta. Eso me llevó a un error diferente, el de este hilo. La solución señalada allí, de añadir la línea DISCOURSE_SMTP_OPENSSL_VERIFY_MODE: none al archivo yaml, finalmente lo hizo funcionar.
Realmente no sé si el problema del DNS causará problemas en el futuro, espero que no, ¡pero gracias a ambos por su ayuda!