Creo que está fallando antes incluso de intentar iniciar sesión.
Para eliminar Discourse como factor, intenta desde el host Y desde dentro del contenedor:
$ openssl s_client -connect smtp.mailgun.org:587 -starttls smtp
Deberías obtener una gran cantidad de salida y luego poder intentar autenticarte:
○ → openssl s_client -connect smtp.mailgun.org:587 -starttls smtp
Connecting to 34.160.63.108
CONNECTED(00000003)
…
SSL-Session:
…
---
read R BLOCK
EHLO localhost
250-2ed1d46f4d7dec773e2a97b59f3a3bf8a2d6db54f94eead5dcf49e3ea1caac18
250-AUTH PLAIN LOGIN
250-SIZE 52428800
250-8BITMIME
250-SMTPUTF8
250 PIPELINING
AUTH PLAIN bWljaGFlbABtaWNoYWVsAHBhc3N3b3Jk
501 Username used for auth is not valid email address
535 Authentication failed
closed
Las cadenas que escribirías son:
EHLO localhost
AUTH PLAIN bWljaGFlbABtaWNoYWVsAHBhc3N3b3Jk
(esa cadena son las credenciales michael/password, por lo que obviamente no funcionará, pero puedes ver esta publicación para aprender a construir la cadena para tus credenciales reales si quieres intentarlo manualmente)
Espero que ver de primera mano lo que funciona y lo que falla ayude.
También te recomiendo intentar usar swaks si está disponible; probablemente sea un paquete del sistema operativo que puedas instalar.
Es un poco más fácil y puedes, por ejemplo:
swaks --to frodo@shire.net --from bilbo@shire.net --auth PLAIN --auth-user bilbo --auth-password ring --server smtp.mailgun.org:587 --tls
excepto que puedes usar tus credenciales reales.
La salida de eso también podría ayudar a revelar el problema.