Текст можно настроить через (админка > настройка > текст) — поиск по фразе «with google» покажет нужные элементы для редактирования.
Логотип на кнопке можно скрыть с помощью CSS, добавленного в тему (админка > настройка > темы):
.btn-social.google_oauth2 .d-icon {
display: none;
}
Предупреждаем заранее: у Google есть практика проверки соответствия их спецификациям и отправки предупреждающих писем администраторам. Даже такие мелочи, как использование неправильного цвета, ранее привлекали их внимание: Not compliant with google signin branding requirements