Criar um segundo arquivo semelhante ao app.yml é suficiente para multisite?

Sim. Você pode fazer isso. Mas eu recomendaria dedicar um pouco mais de tempo para mover para contêineres de web e dados separados, de modo que você tenha apenas uma única instância do Redis e do Postgres em execução. No entanto, se você não se importa em desperdiçar um pouco de RAM e não precisa do benefício de reduzir o tempo de inatividade durante a reconstrução, sua ideia está boa.

Isso usará um pouco mais de RAM do que uma configuração multisite, mas permite que você tenha conjuntos diferentes de plugins.