Prova dei nuovi modelli AI

ComunitĂ 
1

Ciao :waving_hand:

Ho creato questo argomento per condividere esperienze con i nuovi modelli AI utilizzati su Discourse.

Ho configurato qualche giorno fa grok-2-1212 per i riassunti degli argomenti. Funziona molto bene. Il rilevamento della lingua e la qualità sono sufficienti. L’ho provato anche con un bot AI, ma nella maggior parte dei casi ha fallito, immagino che non sia ancora in grado di gestire bene gli strumenti.

Ho provato anche Gemini Flash 2 per il bot AI. Funziona velocemente e fornisce ottime risposte, tuttavia a volte sembra che non riesca a gestire bene gli strumenti e rompa la risposta. A volte è un semplice problema di formattazione markdown, a volte non riesce a cercare. Sul mio forum, nella maggior parte dei casi dice che non ha trovato nulla sul forum, ma so che ci sono più argomenti su quell’argomento…

4 Mi Piace
2

Per il problema della ricerca, pensi che possa essere correlato al fatto che l’IA non indicizza completamente il contenuto del forum o potrebbe esserci una discrepanza nella comprensione delle query?

2 Mi Piace
3

Non ho idea. La maggior parte delle volte non cerca nulla “” o fallisce con timeout… ma a volte esegue la ricerca correttamente e collega gli argomenti corretti. Penso che sarebbe buono, ma è ancora fortemente sperimentale.

1 Mi Piace
4

Hai provato gli strumenti xml? Ho scoperto che su grok funzionano abbastanza bene

3 Mi Piace
5

Grazie, ci ho provato ora. Sì, sembra meglio, il problema si verifica principalmente ora quando creo una nuova conversazione. Inizia in inglese qualcosa come: Sto cercando…in sitename… e smette di rispondere. A volte continua la risposta dopo la frase inglese Sto cercando… nella corretta lingua ungherese e aggiunge una buona risposta. Tuttavia, se rispondo alla risposta di grok dopo quella nella conversazione, funzionerà benissimo.

2 Mi Piace
6

Questo è davvero interessante, mi piacerebbe consentire esempi di “grounding” come opzione per le persona, potrebbe risolvere completamente questo problema.

2 Mi Piace
7

Bingo! Ma pensi che rallenterĂ  le cose, specialmente con molti dati? Potrebbe influire sui tempi di risposta per le query AI o i risultati di ricerca, o va tutto bene?

1 Mi Piace
8

Il grosso problema degli esempi è la “contaminazione”
Il modello impara la forma, ma può anche pensare erroneamente che un utente abbia detto qualcosa che non ha detto.
Idealmente, creare attentamente messaggi di sistema può fare al caso tuo, quella sarebbe la mia prima risorsa.

Esempi in un messaggio di sistema possono portare a meno fughe di informazioni poiché può essere più chiaro per un modello che si tratta solo di un esempio.
Una cosa minima che consiglierei, Don, è scrivere il tuo messaggio di sistema in ungherese, potrebbe aiutare.
Forse provare a dare uno o due esempi di strumenti XML nel messaggio di sistema?

4 Mi Piace
9

Questo suona davvero bene, grazie per averlo condiviso : )

10

Ci ho provato ma stesso risultato con grok-2-1212 poi l’ho cambiato in grok-beta e funziona perfettamente ma funziona anche con il messaggio di sistema in inglese…

4 Mi Piace