Open source будет поддерживать кастомизированный SSO провайдера

Это должно работать. Вы можете использовать DiscourseConnect или Oauth2 в качестве единственного провайдера аутентификации, чтобы Discourse не показывал экран входа, а сразу перенаправлял пользователя к вашему провайдеру аутентификации.