Puoi provare Moonshot AI Kimi K2 tramite i loro endpoint API per la Cina?
Sembra che l’URL di base dell’API sia https://api.moonshot.cn/v1.
Abbiamo introdotto il requisito degli output strutturati perché avevo sopportato migliaia di lamentele su problemi come, i modelli che aggiungevano “Ecco il tuo riassunto” o fallimenti nell’analisi quando si otteneva un elenco di titoli suggeriti per l’aiuto AI, ecc. Ora, con la traduzione, è diventato un problema ancora peggiore quando devi essere in grado di fidarti di milioni di invocazioni LLM per non aggiungere nulla di extra al tuo output.
Data la necessità di affidabilità e la disponibilità generale di output strutturati, abbiamo preso questa decisione sui provider in cui è supportato, ma sarei aperto a una PR che aggiunge una casella di controllo per disabilitare gli Output Strutturati dalla richiesta API sul provider OpenAI.