Olá Peter
Eu não tenho o conhecimento para responder à sua pergunta, mas aqui estão um plugin e um componente de tema que ambos adicionam um botão ao compositor que abre uma janela modal, talvez você encontre algumas dicas em seus códigos:
