Olá Camille, seja bem-vinda! Esta é uma lista bastante longa de perguntas. Nossa barra de pesquisa ali em cima seria muito útil para facilitar as coisas para você e para outros membros, assim ninguém se sente sobrecarregado tentando ajudar 
Dito isso, deixe-me ver como posso melhor ajudá-la.
Claro, veja: Understanding groups and category permissions. Se quiser personalizações extras para listar tópicos reservados apenas a membros registrados, veja: Category Previews
Eles são apresentados a um modal/mensagem para se cadastrar, mas eu não chamaria isso de mensagem de recusa.
Sim, veja: Sending bulk user invites
Sim, vá em Admin > Personalizar > E-mail e selecione o tipo de e-mail que deseja editar no menu suspenso.
Sim, veja a configuração do site default invitee trust level. Isso também pode ser configurado se você estiver usando um provedor de autenticação externa ou SSO para registros e logins.
De cabeça, não acho que isso seja possível sem um plugin personalizado. E, se quiser seguir por esse caminho, spam será um grande problema e a moderação ficará muito mais difícil para sites grandes. Você ainda poderá moderar, mas não vi essa solicitação antes, então não posso afirmar o que aconteceria depois.
Não tenho certeza se entendi o que você quer dizer com Tópicos, mas o que você descreveu pode ser alcançado usando Tags. Veja: It’s Time We Talked About Tags e Set up structured tagging with tag groups and category tag restrictions
Isso é respondido no primeiro tópico que linkei.