הוסטינג עצמי לסנטימנט ורגש עבור DiscourseAI

נתקלתי בקיר לבנים של חוסר ידיעה מה לעזאזל אני עושה בניסיון לגרום לזה לעבוד על מופע EC2 ללא GPU. לפחות כמיטב יכולותיי המוגבלות ביותר והבנתי כאן, ניסיון לעשות זאת עם מופע CPU בלבד פירושו הרבה יותר עבודת תצורה ממה שאני יכול להבין. גרסאות ה-cpu של ghcr.io/huggingface/text-embeddings-inference מסרבות לטעון את שני מודלי ההאזנה; קלוד ו-GPT5 אומרים לי שאני צריך להמיר אותם למודלי ONNX עם חבורה של כלי פייתון, ושם נכשלתי.

(זה גם מאוד אפשרי שאני פשוט טיפש ומפספס שלב ברור!)