См. Устранение неполадок с электронной почтой при новой установке Discourse.
Проблема, скорее всего, в том, что адрес электронной почты для уведомлений не совпадает с тем, который настроен на вашем почтовом сервере для отправки.
Но это не объясняет ошибки «connection timed out» (превышено время ожидания подключения). Похоже, это проблема сети Docker.