メールサービスを変更したところ、フォーラムがIPアドレスでもURLでも解決しなくなりました

わかりませんが、アプリの yml でSMTPの詳細を変更してから再構築できると思います。

また、Discourseのセットアップで行ったように、正しいIPアドレスにインストールするために「a」レコードをグレーアウトする必要があるかもしれません。