Sim, isso deve ser possível com o Discourse Automation — o plugin inclui uma automação chamada “adicionar usuário ao grupo através de campo personalizado”.
Portanto, no momento do cadastro, você pode exigir um campo personalizado com as opções “aluno” e “professor”, e com base no que um usuário selecionar, ele poderá ser adicionado automaticamente ao grupo de usuários relevante. O grupo de usuários pode então ter acesso a categorias específicas (mais informações sobre isso em Understanding groups and category permissions).