Какие именно лишние накладные расходы? Вам ведь всё равно нужно как-то передавать данные из Discourse на SMTP-сервер? Или нет?
P.S.: если это другой контейнер, то теоретически можно использовать сеть bridge и указывать имя контейнера smtp вместо хоста, если именно это вы имеете в виду, но это не даст никаких преимуществ в производительности.