Согласно коду
SMTP должен быть настроен в config/discourse.conf.
У меня в этом файле содержатся следующие строки:
smtp_user_name = '...com'
smtp_address = '...com'
smtp_port = '587'
smtp_password = '...'
smtp_domain = '...com'
notification_email = 'noreply@....com'
Вы проверяли логи? Для этой кастомной установки логи находятся в файлах production.log, production.log и puma.stdout.log в директории log.