Как создать пользовательскую кнопку?

Ознакомьтесь с этими компонентами темы:

Если вы хотите добавить туда кнопку, вы можете изучить исходный код других плагинов, которые успешно это реализовали, например, плагин Formatting toolbar.

Я не до конца понимаю сценарий использования вашей функции, но именно поэтому Discourse является бесплатным и открытым, чтобы вы могли настроить его так, как вам нужно!