Это выглядит как значительное снижение уровня безопасности. MD5 не подходит для хеширования паролей. Такое изменение затронет критически важную часть Discourse, и вам также придётся поддерживать его во всех будущих выпусках.
Возможно, мы сможем предложить более подходящий подход, если вы объясните, чего именно вы пытаетесь достичь.
Что касается кастомизации Discourse, пожалуйста, ознакомьтесь с материалом по адресу Developing Discourse Plugins - Part 1 - Create a basic plugin. Система плагинов позволяет безопасно расширять основные функции.