Instalação e compatibilidade com VPS apenas IPv6

Eu não sei o suficiente para te dizer.

Você precisaria iniciar um container, entrar nele e então tentar git clone ou talvez até mesmo apenas curl https://github.com/.

Suspeito que para sua configuração apenas IPv6 será difícil e não suportado. Com google git+clone+inside+docker+ipv6 encontrei isto: tasks have no access to ipv6 services · concourse · Discussion #5919 · GitHub