La opción de correo electrónico de notificación se utiliza en la cabecera de correo “From” (RFC822), pero (como señalas) para este propósito quieres configurar el “Envelope From” que se utiliza en la transacción SMTP (RFC5321). Discourse utiliza reply_by_email_address aquí.
La solución más integrada es configurar reply_by_email_address en algo que se entregue de vuelta a Discourse para que maneje automáticamente los rebotes. Eso es lo que hacemos en nuestra plataforma de alojamiento.
Te sugiero que leas esto: Configure direct-delivery incoming email for self-hosted sites with Mail-Receiver