Похоже, что способ работы публичной ссылки, который использовался ранее, сломан. Это редко используется. Это должно быть удалено.
Тест SMTP проверяет возможность подключения, но не выполняет проверку DNS.
Ошибка docker exec указывает на то, что там что-то не так.
Я подумаю о добавлении примечания насчет адреса отправки. Это всё ещё распространённая проблема. Discourse отправляет письма с поддомена форума, а почтовый сервер часто ожидает корневой домен.
По поводу вашей проблемы с электронной почтой: вы проверяли Устранение неполадок электронной почты при новой установке Discourse?