Olá @jbm, não há uma maneira integrada de restringir coisas como mensagens privadas (PMs) de usuário para usuário com base em associações de grupo. Você já considerou desativar as PMs completamente?
Parece que você está tentando particionar o Discourse para que ele se comporte como se fossem várias instâncias. Se for esse o caso, por que não usar multisite?