Настройки для Hugging Face bge-large-en embeddings? → RAG боты не отвечают!

[sam (Sam Saffron)]

@StevePlex

Попытка связаться с моделью вернула эту ошибку: {“error”: “Body needs to provide a inputs key, recieved: b’{“model”:“bge-large-en”,“temperature”:0.7,“messages”:[{“role”:“system”,“content”:“You are a helpful bot”},{“role”:“user”,“content”:“How much is 1 + 1?”}],“max_tokens”:1009}'”}

Так тестировать эмбеддинги не следует это тест для LLM, а не для модели эмбеддингов, которая должна возвращать числа. Интерфейс LLM не подходит для этого — нам нужен интерфейс для эмбеддингов, которого у нас пока нет. Модели эмбеддингов настраиваются только в настройках сайта.