Para quienes buscan una solución a esto: yo ya la encontré. Este post fue clave: How to get Discourse to work with Postfix - #11 by shu_kaze - Linux - Level1Techs Forums
El problema era que Discourse no podía conectarse a mi servidor Postfix desde Docker. Técnicamente, la conexión proviene de otra red y Postfix no tenía esa red en la lista de redes permitidas. Basta con agregar la red de Docker (en mi caso 172.17.0.0/16) a mynetworks en la configuración de Postfix, y ¡funciona!
Primero debes verificar si Docker puede conectarse a tu servidor Postfix (es decir, si la conexión se puede establecer antes de que se ejecute la verificación de redes permitidas en Postfix). Recuerda revisar la configuración de Postfix en inet_interfaces. Yo asigné all, ya que localhost no funcionará para Discourse en Docker.
Si aún así no funciona, revisa los registros de Postfix. En mi caso, están en el archivo /var/log/mail.log.
Espero que esto ayude a alguien en el futuro. Me tomó varios días ponerlo en marcha, pero ahora finalmente no dependo de ningún servicio de correo pagado (incluso quise usar uno, pero no pude hacerlo funcionar) y lo tengo gratis. ¡Recuerda agregar registros SPF a tu dominio! De lo contrario, Gmail y otros proveedores de correo bloquearán tus correos: ni siquiera llegarán a la carpeta de spam, sino que serán no entregados.