Olá — você poderia verificar a configuração do site do Discourse invite only (somente convite) e desativá-la se estiver ativada?
Desativar o invite only permitirá que novos usuários façam login ou se registrem usando o OAuth2.
Depois que eles fizerem login, você poderá usar suas regras de associação de grupo (automação ou atribuição manual) para conceder acesso à categoria privada.