Невозможно удалить связанные аккаунты?

Через пользовательский интерфейс да, вам придется отключить двухфакторную аутентификацию.

Если вы администратор и комфортно работаете в консоли Rails, то можете выполнить что-то вроде:

User.find_by_username("my-username").user_associated_accounts.destroy_all