nathank
20 Luglio 2025, 10:53pm
1
La nostra sintesi ha smesso di funzionare un po’ di tempo fa. Dopo averci giocato un po’, oggi sono riuscito a farla funzionare.
Il problema era questa impostazione nella Persona del Riassuntore AI:
L’impostazione implica che sia opzionale. Tuttavia, ho dovuto aggiungere un modello in essa, altrimenti ho ottenuto questo errore nei log:
Se non è opzionale , allora non dovrebbe essere contrassegnata come tale!!!
sam
20 Luglio 2025, 10:58pm
2
È in qualche modo facoltativo, un po’ complicato…
Keegan ci sta lavorando:
main ← default-llm-model
opened 10:31PM - 09 Jul 25 UTC
## :mag: Overview
This update adds a setting to the configure a default LLM mod… el to be used for all features (unless overridden) and removes the `custom:` prefix when defining LLM models
## ➕ More information
For all features, the feature's assigned AI Persona's `default_llm_id` will be used, however, if it doesn't exist, the `SiteSetting.ai_default_llm_model` will be used instead.
This update also adds a few migrations which migrates the old model settings for Helper and Summarization into their respective personas. That is:
- `SiteSetting.ai_helper_model`'s existing value on sites will be copied into:
```ruby
AiPersona.where(id: [-18, -19, -20, -21, -22, -23, -24, -25, -26]).default_llm_id
```
- `SiteSetting.ai_summarization_model`'s existing value on sites will be copied into
```ruby
AiPersona.where(id: [-11, -12]).default_llm_id
```
Eventually, we will follow-up in a separate commit to remove the following settings:
```ruby
SiteSetting.ai_helper_model
SiteSetting.ai_helper_image_caption_model
SiteSetting.ai_summarization_model
SiteSetting.ai_embeddings_semantic_search_hyde_model
```
By default `SiteSetting.ai_default_llm_model` will have `default: ""` in it's `yaml` file, however, this update also adds a migration which will ensure that the last created LLM model is used to fill the setting.
## :camera_flash: Screenshots
<img width="1091" alt="Screenshot 2025-07-09 at 15 27 57" src="https://github.com/user-attachments/assets/7ae3ab95-1adb-480e-894f-aa07655a26ea" />
<img width="1100" alt="Screenshot 2025-07-09 at 15 27 44" src="https://github.com/user-attachments/assets/3dde4222-48a2-49c4-b193-00dec50d9c02" />
Una volta fatto, le persone avranno generalmente un LLM predefinito impostato, quindi le probabilità che questo sia un problema saranno molto più basse.
2 Mi Piace
