ホストが mail.domain.com のポート 465 への発信接続をブロックしていないか確認されましたか？
メール送信プログラムが通知用メールアドレスとして forums@domain.com を期待している場合、Discourse の設定でその項目を変更しましたか？
あ、でも待ってください。Discourse はポート 587 を使用するように設定されていますが、提供されたスクリーンショットではポート 465 が表示されています。Discourse でそのポートを使用するように設定変更することをお勧めします。
新しい Discourse インストールにおけるメールのトラブルシューティングについて こちら をご覧になりましたか？