はい、Discourse を自社のサーバーでホストできます。公式のインストールガイドがあります。
おそらく可能です！Keycloak は OAuth 2 をサポートしているようです。これは Discourse と連携できます – Discourse OAuth2 Basic
はい、グループを作成して、特定のカテゴリへのアクセスを制御できます（https://meta.discourse.org/t/how-to-use-category-security-settings-to-create-private-categories/87678）。また、グループは PM を使用してメンバー間でコミュニケーションを取ることも可能です。