Olá e bem-vindo ao Meta @R4356th 
Não. Fazer alterações nos arquivos do Discourse no seu servidor (neste contexto) significa que você ficará impossibilitado de atualizar seu site ou que suas alterações serão perdidas na próxima atualização.
A maneira correta de abordar isso é criar um plugin ou um tema/componente de tema.
Esses são os métodos que você pode usar para estender o Discourse e atender às suas necessidades.
Para o seu recurso específico, você precisará de um plugin. Recomendo dar uma olhada no código-fonte do plugin bbcode para se inspirar.