Si quieres depurar tu smtp, consulta Troubleshoot email on a new Discourse install - #547 by Nikolai_Patrushev o quizás Solución de problemas de correo saliente. Discourse-setup no es realmente la mejor manera.
Simplemente ejecuta la tarea rake tú mismo, luego edita el yml y destruye e inicia el contenedor, luego sal e inténtalo de nuevo.