文脈の大半はタイトルに含まれています。
SSO ログインに関する一部の変更を行っております。これにより、Discourse サイトから離れることなくユーザーがログインできるようになります。
これは、SSO プロバイダーに対して iframe を開き、そのフレームからトークンが返された後にのみ sso_login URL へリダイレクトすることで実現されます。
なぜプラグインアーキテクチャを使って変更を加えないのでしょうか？そうすれば、その問題は解消されます。
まだソースを確認しているので、もしかすると動くかもしれません。しかし、プラグインアーキテクチャでは必要なことが実現できないほど制御が不十分だと、ますます確信しています。
アーキテクチャを考慮し、埋め込み iframe の使用に固執しないようにすることをお勧めします。
ポップアップログインウィンドウやコールバックは標準的な手法であり、プラグインを使用すれば非常に簡単に実装できます。
Discourse のフォークを管理するのは、非効率かつ継続的な悪夢となるでしょう。一方、適切に構築されたプラグインは変更に対して非常に堅牢で、メンテナンスもはるかに少なくて済みます。
Discourseのフォーク版を維持しようとした方々は、非常に後悔されていることでしょう。フルタイムの開発者を雇うか、変更を統合するか、アップグレードを諦めるかのいずれかを選ぶ必要があります。最終的には、プラグインに移行することになります。
おそらく、必要な機能はプラグインで実装できるか、PRを通じて実現できるはずです。なぜプラグインで問題を解決できないとお考えなのか、あるいは助けを求めて Marketplace に投稿してください。
私はDiscourseをビジネスの一環として管理しており（https://www.literatecomputing.com/discourse-server-maintenance/）、カスタム設定が必要だがエンタープライズレベルのホスティングを予算的に賄えないクライアントが数人います。あなたのビジネスをお引き受けしたいと考えていますが、フォークのサポートは検討しません。
可能であれば、プラグインの方が良いでしょう。
引き続き調査します。いずれにせよ、当プロトコルが OAuth とどれほど独立しているかを確認するのは有益です。
Discourse.org においても、エンタープライズプランであっても、Discourse のフォークをホストすることはお手伝いできません。変更を加える場合は、プラグインやテーマコンポーネントを作成する必要があります。