Проверили ли вы, что ваш хост не блокирует исходящие подключения к mail.domain.com порт 465?
Если ваш почтовый клиент ожидает адрес forums@domain.com как адрес для уведомлений, изменили ли вы эту настройку в Discourse?
О, но подождите. Вы настроили Discourse на использование порта 587, но на скриншоте, который вы предоставили, указан порт 465, поэтому, возможно, вам стоит указать Discourse использовать этот порт.
Посмотрели ли вы руководство по устранению неполадок с почтой при новой установке Discourse?