Todavía no has dicho qué problema estás intentando resolver. ¿Puedes decir más sobre qué está resolviendo MD5?
Todavía necesitas implementar cualquier cambio que hagas en un plugin. ¿Has empezado a aprender cómo funcionan los plugins?
Pero apuesto a que lo que realmente quieres es que Discourse se autentique contra tu aplicación existente, en caso de que solo necesites implementar discourse_connect y Discourse no necesitará saber sobre tus elecciones en el almacenamiento de contraseñas.