Acabei de testar isto e encontrei o que esperava. Quando enable local logins está desativado, clicar no link de convite exibe uma janela modal “Sign in with Google”:
Quando enable local logins está ativado, a janela modal de nome de usuário/senha é exibida:
O texto na janela modal de inscrição informa aos usuários que eles poderão fazer login com qualquer login social usando seu endereço de e-mail. Acho que os usuários entenderão que poderão fazer login com o Google na próxima vez que acessarem o site.
Com o cadastro de nome de usuário/senha, os usuários são logados diretamente no site ao clicar no botão “Accept Invitation”, então o único atrito que vejo é que eles são forçados a inserir uma senha antes de poderem acessar o site inicialmente.
Não acho que haja alguma maneira de fazer o botão “Sign in with Google” ser exibido na janela modal de convite se os logins locais estiverem ativados.