はい、Discourse を自社のサーバーでホストできます。公式のインストールガイドがあります。
おそらく可能です!Keycloak は OAuth 2 をサポートしているようです。これは Discourse と連携できます – Discourse OAuth2 Basic
はい、グループを作成して、特定のカテゴリへのアクセスを制御できます(https://meta.discourse.org/t/how-to-use-category-security-settings-to-create-private-categories/87678)。また、グループは PM を使用してメンバー間でコミュニケーションを取ることも可能です。