Sí, esto debería ser posible con Discourse Automation — el plugin incluye una automatización llamada “añadir usuario a grupo a través de campo personalizado”.
Así que, al registrarse, podrías requerir un campo personalizado con las opciones “estudiante” y “profesor”, y según lo que seleccione un usuario, se le puede añadir automáticamente al grupo de usuarios correspondiente. Luego, al grupo de usuarios se le puede dar acceso a categorías específicas (más información sobre esto en Understanding groups and category permissions).