Звучит как ошибка, хотя маловероятно, что в коде отправки почты может быть баг.
Посмотрите Устранение неполадок с электронной почтой при новой установке Discourse, чтобы попробовать другие варианты (например, как провести тест без запуска discourse-doctor).
Ага. Вот оно. «YES» не является допустимым значением для smtp_validation:
Должно быть plain, login или cram_md5.
Это находится в app/services/email_settings_validator.rb, если кто-то захочет найти это на GitHub.