必要に応じて、カスタムコードを挿入するためにPluginOutletを使用するか、コア実装を置き換える/条件付きで表示するためにPluginOutlet Wrapperを使用するのが最善の解決策だと思います。(利用できない場合は、アウトレットを追加するためにPRを送信できます)
どうしてもmodifyClassを使用したい場合は、モーダルはコンポーネントになり、components/modalにネストされているため、次のようにアクセスできます。
api.modifyClass("component:modal/poll-ui-builder", {
pluginId: "your-custom-plugin-id",
// カスタムコードを挿入
});