Разные SMTP-серверы могут выдавать различные ошибки даже при использовании порта 587 при тестировании с помощью ./discourse-doctor.
TLS и STARTTLS взаимно исключают друг друга
Об этой ошибке до сих пор не упоминалось в meta, поэтому вам следует явно установить DISCOURSE_SMTP_FORCE_TLS: false, иначе это будет противоречить параметру DISCOURSE_SMTP_ENABLE_START_TLS, который по умолчанию имеет значение true. Это может быть не всегда актуально, но попробовать стоит.
SSL_connect returned=1 errno=0 peeraddr=xxx.xxx.xxx.xxx:587 state=error: wrong version number
Опять же, установка DISCOURSE_SMTP_FORCE_TLS: false решает эту проблему.
Net::SMTPAuthenticationError — это может быть вызвано неверным именем пользователя или паролем в ваших учётных данных, либо проблему можно решить, установив DISCOURSE_SMTP_AUTHENTICATION: login.