Я столкнулся с той же проблемой и нашел эту тему в поиске в интернете. Похоже, что (как и в случае с почтовыми серверами Microsoft 365 до отключения аутентификации по паролю) поддерживается только AUTH LOGIN, а не AUTH PLAIN, который является настройкой по умолчанию в Discourse на момент написания этого текста.
Установка параметра DISCOURSE_SMTP_AUTHENTICATION: login в конфигурации контейнера позволяет электронной почте работать. Также стоит отметить, что по умолчанию разрешён только один адрес отправителя «от»: DoNotReply@domain.example. Если вы не зададите его, ваши письма будут отклоняться с ошибкой «550 5.3.5 Имя пользователя отправителя электронной почты недействительно».