Esto parece ser una importante degradación de la seguridad. MD5 no es adecuado para el hash de contraseñas. Este cambio no solo afectaría a una parte crítica de Discourse, sino que también necesitarías mantenerlo para todas las versiones futuras.
Quizás podamos sugerir un mejor enfoque si pudieras explicar qué intentas lograr.
Con respecto a la personalización de Discourse, por favor, echa un vistazo a Developing Discourse Plugins - Part 1 - Create a basic plugin. El sistema de plugins te permite extender de forma segura las funciones principales.