Ho sbattuto la faccia contro un muro di mattoni di non sapere cosa diavolo sto facendo nel cercare di far funzionare questo su un’istanza EC2 senza GPU. Almeno per quanto le mie capacità e comprensione estremamente limitate mi permettono, cercare di farlo con un’istanza solo CPU significa molto più lavoro di configurazione di quanto riesca a capire. Le versioni cpu di ghcr.io/huggingface/text-embeddings-inference rifiutano di caricare entrambi i due modelli di ascolto; Claude e GPT5 mi dicono entrambi che devo convertirli in modelli ONNX con un sacco di strumenti Python, ed è lì che ho detto “no”.
(È anche molto possibile che io sia semplicemente stupido e mi stia perdendo un passaggio ovvio!)