도메인 이름 사용법에 대해 조금 이해하기 어려운 부분이 있습니다. 제 사이트에서는 DISCOURSE_MAIL_ENDPOINT와 수신 이메일을 위한 MX 레코드가 동일한 도메인으로 설정되어 있으며, 이는 Discourse 서버를 가리키고 있습니다. Configure direct-delivery incoming email for self-hosted sites with Mail-Receiver 의 원 게시글에서 설명된 내용과 같습니다. 반면, 질문자님은 서로 다른 도메인을 사용하려는 것으로 보입니다.
일반적으로 Discourse에는 forum.mydomain.org 형태의 서브도메인을 사용하여 포럼을 메인 웹사이트(mydomain.org)와 이메일 서비스와 분리하는 것이 좋습니다.