GPT-4 o 3.5 non possono essere auto-ospitati.
Alcuni LLM sono open source come Falcon o vari modelli basati su LLaMA (che presentano problemi di licenza) possono essere auto-ospitati, ma finora sono tutti inferiori a GPT 4 o persino a 3.5.
Il tuo calcolo approssimativo lì è completamente sbagliato, se hai intenzione di auto-ospitare un LLM, probabilmente vorrai una A100 o una H100, magari alcune di esse… prova a cercare i prezzi su Google…