パブリックリンクの以前の動作が壊れているようです。これはほとんど使われていないので、削除すべきでしょう。
SMTP テストは接続できるかを確認しますが、DNS チェックは行いません。
その docker exec エラーは、そこに何らかの問題があることを示唆しています。
送信アドレスに関する注記を追加することを検討します。これは依然として一般的な問題です。Discourse はフォーラムのサブドメインから送信しますが、メールサーバーはアペックスドメインを期待していることがよくあります。
メールの問題については、新しい Discourse インストールでのメールのトラブルシューティングを確認しましたか？