Hola @jbm, no hay una forma integrada de restringir cosas como los mensajes privados de usuario a usuario basándose en la pertenencia a grupos. ¿Has considerado desactivar los mensajes privados por completo?
Parece que estás intentando particionar Discourse para que se comporte como si fueran varias instancias. Si este es el caso, ¿por qué no usar multisitio?