Sí, puedes alojar Discourse en tus servidores… tenemos una guía oficial de instalación.
¡Probablemente! Parece que Keycloak soporta OAuth 2, lo cual funciona con Discourse – Discourse OAuth2 Basic
Sí, puedes crear grupos y usarlos para controlar el acceso a categorías específicas (Understanding groups and category permissions). Los grupos también pueden comunicarse entre sus miembros mediante mensajes privados.