Mi consejo es siempre comenzar de forma sencilla. Trabaja primero en un requisito simple y averigua cómo hacerlo. Luego pasa al siguiente.
En cuanto a los temas, diría que la mayoría de ellos implicarán modificaciones en CSS. Utiliza los recursos habituales. Donde no sea posible, tendrás que considerar modificar las plantillas con jQuery o, en última instancia, sobrescribirlas. Crea tus propios componentes o widgets para casos de uso novedosos y adjúntalos.
El código fuente siempre es tu aliado; explora la estructura de directorios de GitHub para discourse/discourse y encontrarás las diferentes partes de la aplicación organizadas. Las plantillas, creo, son la parte más fácil de entender. Si no estás familiarizado con la estructura de directorios de Ember, este es el momento de familiarizarte con ella.