Aggiungi più supporto linguistico per i riassunti AI

C’è un piccolo problema, la funzionalità di riepilogo funziona benissimo ma genera riepiloghi in inglese. Tuttavia, il sito web è in turco. Mi chiedo se lo stesso errore esista in diverse lingue del sito web o se ci saranno miglioramenti. Abbiamo la possibilità di modificare il prompt applicato per OpenAI nelle impostazioni?

E grazie di tutto..

3 Mi Piace

Stai usando GPT-4 per il modello nelle impostazioni? Possiamo certamente modificare il prompt per farlo seguire la lingua del contenuto.

4 Mi Piace

no sto usando 3.5 turbo 16k:

Ho provato a tradurre alcuni termini in turco dalla sezione di testo e quando ho riprovato più tardi, ho visto che aveva riassunto alcuni argomenti in turco. Se fosse stato corretto completamente, quando ho pensato che avrebbe aiutato, ha riassunto di nuovo un argomento diverso in inglese. Possiamo fare qualche miglioramento sul prompt admin? O dovremmo aspettare che venga apportato un miglioramento a questo?

Riassunti separati vengono salvati ma un pulsante per aggiornare sarebbe bello. I riassunti di esempio in inglese dovranno essere ricreati in futuro. Questa build è automatica o ci sarà un pulsante magico per ricrearla :slight_smile:

summarization strategy: Open AI's gpt-3.5-turbo-16k

nota: Sono molto felice di vedere che sei interessato. Sei fantastico.

4 Mi Piace

@kuaza Hai trovato una soluzione? Stiamo riscontrando lo stesso problema. Il nostro forum è in tedesco, ma il riassunto finisce per essere in inglese.

1 Mi Piace

Non sono riuscito a trovare una soluzione per la domanda. Pensavo che sarebbe stata risolta nei nuovi aggiornamenti, ma ora ci ho provato, è ancora la stessa cosa, il sito e gli argomenti sono in turco, ma riassume in inglese. Potrebbe essere utile creare un argomento dalla sezione bug per questo.

1 Mi Piace

Beh, non è un bug in sé. Ma sarebbe sicuramente un’ottima aggiunta poter specificare una lingua diversa nella configurazione @Falco

1 Mi Piace

Il nostro piano attuale è dire all’LLM di mantenere il riassunto nella stessa lingua dei post riassunti. Non è ancora così, ma potremmo riuscirci la prossima settimana. Abbiamo lavorato sodo sul riassunto:

  • Supporto per LLM open source come Llama2, StableBeluga2, ecc.
  • Supporto per lo streaming dei riassunti
  • Gestione dei timeout delle API LLM

Quindi tieni d’occhio le novità qui presto.

9 Mi Piace

Nessuna pressione ragazzi, state facendo un lavoro fantastico e il ritmo con cui rilasciate nuove funzionalità è quasi troppo difficile da tenere il passo :smiley:

1 Mi Piace

Stessa cosa qui con lo spagnolo, ho provato a fare un fork e cambiare i prompt ma non funziona (perché le tabelle sembrano essere state indurite o qualcosa del genere).

Sono felice di vedere che Core sta lavorando su questo :slight_smile:

3 Mi Piace

Grazie! Volevo solo aggiungere un incoraggiamento e dirvi che è una funzione fantastica. Nel mio forum è comune avere argomenti lunghi e questo rende la vita molto più facile ed è apprezzato dalla nostra community.

Non vediamo l’ora di avere anche i nostri riassunti in svedese invece che in inglese. :heart:

Se fosse possibile modificare / influenzare l’istruzione che va al bot AI, sarebbe fantastico anche perché si potrebbe aggiungere la propria tonalità.

1 Mi Piace

Jan, ho creato il primo plugin di riepilogo AI. È qui:

Utilizza stringhe di localizzazione per tutti i prompt, quindi potresti scoprire di poterlo far funzionare per te, anche se dovrai modificare i prompt (non molti!)

Il plugin funziona fantasticamente.

Non l’ho mai testato per una lingua straniera. Sarei curioso di sapere se riesci a ottenere un comportamento migliore da esso nella tua lingua.

Daremo la priorità alla localizzazione, una volta fatto riferiremo.

4 Mi Piace

Grazie, questa è una delle mie funzionalità preferite del plugin e ora che funziona con modelli Llama2 completamente open source e con lo streaming per i riassunti, funziona meglio che mai.

Quale modello usi per i riassunti? Posso spedirlo domani.

2 Mi Piace

Fantastico! :heart:

Non so se sto rispondendo correttamente, ma l’impostazione per la “strategia di riassunto” è “GPT4 di OpenAI”. Stiamo utilizzando le chiavi API di OpenAI per i diversi plugin AI. Ha senso per te?

3 Mi Piace

Funziona benissimo in turco, lo testo sempre sul mio sito. Hai fatto un ottimo lavoro. Penso che funzionerà senza intoppi anche in altre lingue.

1 Mi Piace

Il riepilogo dell’IA e il nome dell’argomento (specialmente nella sezione dei messaggi privati) sono sempre in inglese, anche se ho un sito web in spagnolo e tutto il contenuto è in spagnolo. Ho modificato il plugin Ai-summary per lo spagnolo, ma non so come impostare il nome dell’argomento.

2 Mi Piace

Questo problema si è ripresentato. Una conversazione che ho iniziato con un messaggio privato è tornata in inglese invece che in turco.

Credo che migliorerà con il tempo :slight_smile:

Stiamo solo dicendo che stiamo lavorando per ottimizzare i nostri prompt, il che ci consentirà di ottenere un migliore supporto per i contenuti generati in lingue diverse dall’inglese.

7 Mi Piace

Mi dispiace per aver riaperto una vecchia discussione. Ho aggiornato alla versione 3.2.0 ma ho ancora alcuni problemi: a volte i riassunti vengono fatti in inglese e a volte nella mia lingua madre, lo svedese. C’è qualche prompt che posso anteporre o qualcosa che posso fare?

No, per quanto ne so. Ma c’è un trucco che puoi provare: parla con il bot in svedese e subito dopo genera un riassunto.

Dovremmo avere anche l’opzione per eliminare o almeno rigenerare il riassunto.

1 Mi Piace