O que há de errado com o Postfix? Ele fazia parte do primeiro guia de configuração de servidor de e-mail que li, e suas opções de filtro interno para reduzir spam e acesso de bots no início do pipeline pareciam um bom argumento.
Bem, meio que fora do tópico, em relação ao uso de sendmail/pickup do Discourse.
Marcando isso como resolvido/respondido. Faz sentido que o contêiner do Discourse não possa acessar o sendmail do host, não importa qual servidor. Portanto, ele precisa usar a submissão SMTP, para a qual se pode autenticar, por exemplo, via intervalo de IP do contêiner Docker no Postfix, pulando a autenticação passdb/userdb no Dovecot.