Hola Peter
No tengo los conocimientos para responder a tu pregunta, pero aquí tienes un plugin y un componente temático que ambos añaden un botón al compositor que abre una ventana modal, quizás encuentres algunas pistas en su código:
