この古いトピックを起こすことになって申し訳ありませんが、私も同様の状況に直面しています。最近、個人のメールをGmailから自己ホスト型のメール設定に移行したところ、ここでの元投稿者と同じ問題にぶつかりました。GmailからDiscourseサイトへはメールを送信できますが、自己ホスト型のメールサーバーからは送信できません。代わりにメールが跳ね返され、メール受信ログに元投稿者と同じエラーが表示されます。
自己ホスト型のメール運用にはある程度のトラブルは覚悟していました（メールは難しい！）が、とにかく試してみようと決めました。数ヶ月が経過し、他の場所ではメールの送受信が順調に進んでいるようですし、私のドメインとIPのmxtoolbox.comレポートもすべて緑色で正常を示しています。
何かアドバイスがあれば幸いです！