Olá,
Quero criar uma extensão de análise para o Discourse que transforme textos como say [Hello World!] em 
e muitas outras imagens desse tipo. Preciso fazer alguma alteração nos arquivos existentes do Discourse ou posso começar a escrever o código sem modificar os arquivos originais?
Olá e bem-vindo ao Meta @R4356th 
Não. Fazer alterações nos arquivos do Discourse no seu servidor (neste contexto) significa que você ficará impossibilitado de atualizar seu site ou que suas alterações serão perdidas na próxima atualização.
A maneira correta de abordar isso é criar um plugin ou um tema/componente de tema.
Esses são os métodos que você pode usar para estender o Discourse e atender às suas necessidades.
Para o seu recurso específico, você precisará de um plugin. Recomendo dar uma olhada no código-fonte do plugin bbcode para se inspirar.
Muito obrigado, isso deve ajudar.
É para escrever o analisador em PHP?
Talvez você queira dar uma olhada em Developer's guide to Markdown extensions
(De modo geral, para seu conhecimento, todas as extensões do Discourse são escritas em EmberJS e Rails, mas acredito que você só precisará de JavaScript aqui).
Obrigado. 