Obrigado por postar!
Aquele e-mail não funcionar é esperado, mas os erros que você está vendo são incomuns. Eles podem ser devidos a outra coisa na sua configuração.
Quando tento enviar um convite na minha instância de teste auto-hospedada, vejo este erro:
Jobs::HandledExceptionWrapper: Wrapped Socket::ResolutionError: getaddrinfo: No address associated with hostname
E este aviso no painel de controle
Além disso, a falha neste não está relacionada a e-mail. Você tem mais informações sobre isso em /logs?