結論から言うと、docker-compose 単体ではできません。これは実現してほしい機能ですが、現在の計画では、誰でもカスタマイズしたベースイメージを作成し、それを公開してコミュニティの発展に貢献できるようにすることを目指しています。プラグインの構築には、プラグインのクローン取得、bundle install、npm の実行、そして Ember の再コンパイルが必要です。これらを起動時に行うべきではありません。
そのため、このアプローチの目的の一つは、discourse/discourse と同様に、サポートされている Discourse バージョンと同じ app.yml を使用してイメージを構築できるようにすることです。
サンプルとして、私は個人的なイメージを resenha を使って構築しています。これは、コアの app.yml を更新してプラグインを含める こちら の設定を行い、その後、外部（公開！）の Docker レジストリにプッシュするものです。
外部メールサービスを使用している場合、Caddy リバースプロキシが問題である可能性は低いと思います。現在のランチャービルドとは異なり、discourse/discourse はメール環境変数の設定について促すことはありません（ただし、設定は依然として必須です）。まずはそれらを確認することをお勧めします。