Então, consegui fazer funcionar. Parece que era um problema com o DNS, de alguma forma (porque conseguia resolver o URL ao usar os comandos getent e openssl). Então, executei o getent para obter o IP do host do relay SMTP e executei o contêiner alterando o endereço do servidor para o IP bruto. Isso me levou a um erro diferente, o deste tópico. A solução apontada lá, para adicionar a linha DISCOURSE_SMTP_OPENSSL_VERIFY_MODE: none ao arquivo yaml, fez funcionar no final.
Não sei realmente se o problema do DNS causará problemas no futuro, espero que não kkk, mas obrigado a ambos pela ajuda!