Discourse AI - Triage AI

[sam (Sam Saffron)]

La classificazione AI è progettata per migliorare la gestione e la moderazione dei post del forum automatizzando il processo di classificazione dei post.

Si prega di notare che questa funzionalità richiede il funzionamento dei plugin discourse-automation e discourse-ai.

Casi d’uso

1. Categorizzazione automatica dei post: La classificazione AI può categorizzare automaticamente gli argomenti in base al loro contenuto. Questo è particolarmente utile per forum di grandi dimensioni in cui la categorizzazione manuale può richiedere molto tempo. È possibile applicare le regole a un sottoinsieme di argomenti (solo il primo argomento o argomenti pubblicati in categorie specifiche)

2. Taggatura dei post: La classificazione AI può assegnare tag specificati ai post. Questa funzionalità aiuta a organizzare meglio i post e rende la ricerca e il recupero degli argomenti più efficienti.

3. Risposte automatiche: La classificazione AI può generare risposte ai post utilizzando risposte predefinite. Questo è utile per rispondere a domande frequenti o richieste comuni, inviare spam a categorie indesiderate e altro ancora.

4. Nascondere argomenti: La classificazione AI può nascondere argomenti in base a determinati criteri. Questo può essere utilizzato per gestire spam o contenuti inappropriati.

5. Rilevamento NSFW/Tossicità/Spam

   • Impostazione del rilevamento NSFW nella tua community
   • Impostazione del rilevamento della tossicità nella tua community
   • Impostazione del rilevamento dello spam nella tua community

Come funziona

La classificazione AI utilizza modelli AI per analizzare il contenuto dei post. Sulla base di questa analisi, se il modello restituisce un testo specifico, esegue le azioni specificate. Queste azioni includono lo spostamento del post in una categoria specificata, l’aggiunta di tag, la risposta con una risposta predefinita e l’occultamento dell’argomento.

Configurazione

Il campo prompt di sistema è stato deprecato a favore delle Personas. Se avevi un’automazione AI prima di questa modifica, verrà creata automaticamente una nuova Persona con il prompt di sistema associato.

Per configurare la classificazione AI, è necessario specificare alcuni parametri:

• Persona: Persona associata all’automazione AI.
• Cerca testo: Se il testo seguente appare nella risposta LLM, applica le azioni seguenti.
• Categoria: Questa è la categoria in cui verrà spostato il post se viene trovato il testo specificato.
• Tag: Questi sono i tag che verranno aggiunti al post se viene trovato il testo specificato.
• Nascondi argomento: Se questa opzione è abilitata, l’argomento verrà nascosto se viene trovato il testo specificato.
• Segnala post: Se questa opzione è abilitata, l’argomento verrà segnalato per la coda di revisione di moderatori, staff e amministratori per intraprendere azioni.
• Tipo di segnalazione: Opzione per contrassegnare il post segnalato come spam e nasconderlo, oppure inviarlo alla coda di revisione.
• Utente di risposta: Questo è l’utente che verrà menzionato nella risposta predefinita.
• Risposta: Questa è la risposta predefinita che verrà pubblicata se viene trovato il testo specificato.
• Persona di risposta: Persona AI da utilizzare per le risposte. Deve avere un LLM predefinito, avrà la priorità sulla risposta predefinita. Risponderà condizionalmente a differenza di Discourse AI - AI Auto responder.
• Rispondi come Sussurro: Se la risposta della persona debba apparire come sussurro.

Avvertenze

• Le chiamate LLM possono essere costose. Quando si applica un classificatore, prestare attenzione a monitorare i costi e considerare sempre di eseguirlo solo su piccoli sottoinsiemi.
• Il caso d’uso particolare che abbiamo testato (e che eseguiamo in produzione per un cliente) è la classificazione dei primi argomenti di un utente.
• Si consiglia di utilizzare AI bot per aiutare a creare il prompt di sistema.

[EricGT]

Essere uno dei fortunati a vedere questo in azione è una funzionalità per i siti di grandi dimensioni che dovresti davvero capire e considerare di utilizzare.

Poiché funziona utilizzando un’IA basata su LLM, non raggiunge sempre la conclusione corretta, ma coglie così tanto nel giusto nei casi in cui l’ho vista utilizzata per alcuni giorni svolgendo parte del lavoro di un moderatore, che è stato sicuramente un beneficio significativo.

Alcune delle prime discussioni su questo argomento si trovano nella categoria Lounge sul sito di OpenAI. Sebbene l’accesso a tale categoria sia possibile a chiunque, è necessario soddisfare i requisiti TL3 e, essendo OpenAI un sito di grandi dimensioni, ci vuole un notevole sforzo per raggiungere TL3 sul sito.

Per coloro che hanno accesso, ecco il link

https://community.openai.com/t/lost-users-first-empirical-data/403082/95

---

Fondamentalmente, la logica che sta aiutando i moderatori per un problema specifico è che vediamo circa il 5% dei post di nuovi utenti che pensano che il forum sia il posto dove porre domande a ChatGPT, chiaramente sono persi o forse un risultato di ricerca fornisce un link non valido. L’IA identifica tali post, risponde con un testo predefinito e modifica la categoria e i tag secondo necessità, ad esempio

Education is very important how can children who are disinterested in the...

---

Per il caso segnalato, ecco cosa sta facendo la “Regola di automazione del classificatore di post di Discourse AI”

Categorizzazione automatica dei post
Il classificatore sta modificando la categoria in ChatGPT secondo necessità. Poiché la maggior parte dei nuovi utenti non seleziona una categoria, il sito OpenAI attualmente imposta di default la categoria API per i nuovi post, il che in questo caso è errato.

Tagging dei post
Il classificatore sta modificando il/i tag in lost-user in questo caso. Il nome del tag è stato creato da un utente TL3 sul forum che stava modificando manualmente i tag.

Risposte automatiche
Il classificatore sta rispondendo con un post predefinito.

Nascondere argomenti
Gli argomenti vengono non elencati poiché non erano di valore per gli sviluppatori che utilizzano il sito.

Utente di risposta
System viene utilizzato come creatore della risposta.

Nota: fornirei la Configurazione per questo, ma non ho accesso. Forse @Sam può aggiungere i dettagli, per quanto ne so, può essere resa pubblica poiché nulla è confidenziale nella configurazione. Poiché è per un sito specifico, non mi aspetterei di trovarlo nel repository pubblico. Se comprendi questa tecnologia, non è difficile indovinare i valori corretti, o qualcosa di vicino ad essi. Il Prompt di sistema ha richiesto del lavoro e forse @sam può condividere alcune delle lezioni apprese, la conoscenza di come creare il prompt è stata di grande valore durante la fase di sviluppo.

Prompt di sistema

Nota: questa è una versione pubblicata nella OpenAI Lounge (ref) sono abbastanza sicuro che la versione finale sia diversa, ma un esempio fa risparmiare molte congetture.

Sei un bot che gestisce tutte le prime interazioni di un utente sul forum degli sviluppatori di OpenAI.

Rispondi solo con "ok" o "bad".

I post sono pertinenti e ok se:

Riguardano le API di OpenAI / Community / Sviluppo di plugin / Documentazione / Prompting
Riguardano lo sviluppo o il miglioramento dei metodi per il prompting di modelli linguistici di grandi dimensioni
Riguardano l'IA in generale
Coinvolgono discussioni complesse o problemi logici relativi all'IA
I post sono cattivi se:

Un utente sembra avere una conversazione casuale con ChatGPT
Un utente è fuori tema discutendo di un campo non correlato
Un utente sta chiedendo a un modello linguistico di grandi dimensioni di generare testo senza uno scopo chiaro
Hai estrema difficoltà a capire di cosa si tratta
Riguarda un argomento OpenAI MA è chiaramente una conversazione con un bot
Un utente sta tentando di addestrare o testare il modello AI attraverso il suo post
Un utente sta fornendo istruzioni o chiedendo risposte in un formato non di discussione
Un utente sta pubblicando contenuti che non favoriscono una discussione o un apprendimento significativi
Un utente sta pubblicando contenuti ipotetici o speculativi senza una chiara relazione con l'ambito di OpenAI
Un utente sta pubblicando l'intero post in una lingua diversa dall'inglese
Si prega di classificare il seguente contenuto racchiuso tra [[[]]]:

[[[
%%POST%%
]]]

---

Per tua informazione

Se sei un moderatore su un sito che utilizza questo e vuoi/hai bisogno di vedere un elenco di post non elencati, ricorda che non puoi usare la ricerca. Tuttavia, puoi navigare verso un tale elenco utilizzando la categoria, quindi selezionando i tag. Oppure potresti anche creare manualmente l’URL, ad esempio https://community.openai.com/tags/c/chatgpt/19/lost-user

---

Sì, funziona anche per lingue diverse dall’inglese

Rend der Eingewöhnung von ihrem Vater bogustet. Schon Maries Geschwister...

Tuttavia, non funziona con le immagini , non convertirà un’immagine in testo ed eseguirà il controllo, ad esempio

Solving of mathematics equation involving fraction with addition

Ecco un recente falso positivo o almeno credo che lo sia.

Looking for a developer for a Dungeon Master AI bot on Discord

---

Per i dettagli sui falsi/veri negativi/positivi - Classificazione: Vero vs. Falso e Positivo vs. Negativo

[EricGT]

Una possibile funzionalità.

Almeno per i moderatori che esaminano un post, convertire il testo nella lingua del moderatore quando visualizza l’argomento. Questo non implica solo per una segnalazione, ma per qualsiasi visualizzazione del post.

---

A volte, durante la revisione delle azioni del classificatore di post di Discourse AI, è necessario convertire il testo del post nella mia lingua (inglese) per verificare se l’IA ha intrapreso un’azione corretta. Attualmente, mi è più facile incollare il testo in Google Translate.

[sam (Sam Saffron)]

Degno di nota e correlato a questa missione secondaria.

@keegan sta lavorando all’integrazione di un helper AI nel nostro menu a comparsa. Quindi, in futuro, nei casi in cui ci sia molto testo in una lingua sconosciuta, potrai semplicemente evidenziare il testo e premere traduci.

Oggi supportiamo questo nella composizione, ma una volta unito potrai evidenziare il testo in qualsiasi post di Discourse e ottenere una rapida traduzione basata su LLM.

[ncaming215 (nate c.)]

Questo… mi cambia la vita. Dove posso inviare biglietti di ringraziamento.

[jordan-violet]

@sam

Etichettatura dei post: Il classificatore di post può assegnare tag specificati ai post. Questa funzionalità aiuta a organizzare meglio i post e rende la ricerca e il recupero degli argomenti più efficienti.

Qual è un esempio di come farlo facendo riferimento ai tag esistenti che il tuo forum ha oggi? ad esempio, il post viene analizzato dall’LLM e i tag più probabili/rilevanti vengono aggiunti al post.

[sam (Sam Saffron)]

Amo questa domanda, puoi approfondirla per favore… come vorresti che funzionasse?

• Applicheresti il “tagging automatico” se l’argomento ha già dei tag?
• Lo applicheresti a tutti i primi post o solo ai primi post di gruppi particolari? (ad es. tl0 / tl1)
• È qualcosa che preferiresti eseguire manualmente su un sottoinsieme di argomenti?

Dovremo apportare alcune modifiche qui… al momento il classificatore è binario, ma le modifiche sono ragionevolmente facili finché sappiamo qual è l’obiettivo?

[jordan-violet]

• Applica a tutti i nuovi argomenti in una categoria
• Potresti certamente avere l’opzione di variare in base al livello di fiducia. Come tutto (e in questo caso, ogni community), dipende. Nel caso della mia community, probabilmente la terrei attiva per tutti tranne che per tl4 (o per tutti, se quella configurazione non è un’opzione)
• Preferirei che funzionasse su tutti i nuovi argomenti nelle categorie specificate

L’obiettivo qui, ovviamente, è non dover mai lavorare manualmente sull’etichettatura degli argomenti e lasciare che l’IA lo faccia interamente in base all’argomento iniziale creato e che esamini le etichette esistenti che abbiamo ora.

Potrebbe probabilmente essere migliorato ancora di più se avessi la possibilità di aggiungere descrizioni alle etichette in Discourse, e lasciarlo usare quelle descrizioni per un contesto aggiuntivo per aggiungere le etichette giuste

[EricGT]

Prima di tutto, vorrei affermare che sono pienamente a favore di questa funzionalità e del suo miglioramento. Quanto segue sono solo alcuni fatti su come funziona attualmente (16/10/2023). Ogni giorno, in qualità di moderatore di categoria su OpenAI, esamino tutti i nuovi post, non tutte le risposte, e vedo tutti i falsi positivi e negativi dell’IA.

@jordan-violet

L’obiettivo qui, ovviamente, è non dover mai lavorare sull’etichettatura degli argomenti

Come utente di questa funzionalità, Discourse AI Post Classifier - Automation rule, sii consapevole che:

• non è accurato al 100%
• attualmente richiede un’azione manuale per annullare se l’IA ha commesso un falso positivo. A seconda della modifica, potrebbe essere necessario un moderatore di categoria o superiore; in particolare, elencando un argomento non elencato.
• potrebbe trascurare alcuni argomenti, falso negativo
• molti utenti che riceveranno la risposta automatica dall’IA non capiranno come segnalare la risposta dell’IA se si tratta di un falso positivo, quindi dovranno essere identificati e modificati manualmente. Sarà quindi necessario l’aiuto di utenti reali per individuarli.
• comprendere come creare il prompt per farlo funzionare come necessario
• potrebbe potenzialmente richiedere un fine-tuning e/o agenti per avvicinarsi a un livello di soddisfazione desiderato, il che potrebbe diventare costoso
• nessun modo per tracciare falsi positivi e negativi da utilizzare per capire come modificare il prompt e/o un possibile fine-tuning e/o agenti

---

falso positivo - L’IA non avrebbe dovuto apportare una modifica e l’ha fatto, il che è errato.
falso negativo - L’IA avrebbe dovuto apportare una modifica e non l’ha fatto, il che è errato.
vero positivo - L’IA ha apportato una modifica, il che è corretto.
vero negativo - L’IA non ha apportato una modifica, il che è corretto.

[sam (Sam Saffron)]

Una buona mossa iniziale è provare un prompt in modalità creativa:

Qualcosa come…

Sei un etichettatore automatico di Discourse, suggerisci un elenco di tag per l’argomento.

I tag sono:

tag1: descrizione
tag2: descrizione

Suggerisci fino a 3 tag per il seguente argomento:

ARGOMENTO

Prova questo su alcuni dei tuoi argomenti, quanto funziona bene?

[EricGT]

@EricGT

A volte, quando si esaminano le azioni del classificatore di post di Discourse AI, è necessario convertire il testo del post nella mia lingua (inglese) per verificare se l’AI ha intrapreso un’azione corretta. Attualmente è più facile per me incollare il testo in Google Translate.

@sam

@keegan sta lavorando all’integrazione di AI helper nel nostro menu a comparsa. Quindi, in futuro, nei casi in cui ci sia un blocco di testo in una lingua sconosciuta, potrai semplicemente evidenziare il testo e premere traduci.

Funziona benissimo! Grazie

[EricGT]

Aggiornamento recente (11/01/2023)

L’ID utente per il bot è ora gpt-4-triage, almeno sul forum di OpenAI.

Questo è stato fatto in modo che gli utenti possano silenziare il bot secondo necessità.

Esempio di risposta del bot.

Write a 500 to 1000 words about wolfgang keller

[sam (Sam Saffron)]

Nota, questo è configurabile, puoi far provenire la risposta automatica da qualsiasi utente desideri

[ncaming215 (nate c.)]

Quindi, un seguito dopo aver provato questo.

Sembra che questa sia nelle fasi iniziali e sono entusiasta di vedere dove andrà, ma l’interpretazione di @jordan-violet è esattamente ciò che sto cercando di realizzare. Ho provato il prompt di test che @sam ha suggerito ed è sembrato abbastanza intelligente da applicare i tag corretti in teoria. Tuttavia, sembra che lo script attuale limiti i tag applicabili a 7, e noi ne abbiamo considerevolmente di più.

In breve? Sarebbe fantastico se applicasse semanticamente i tag esistenti a un nuovo argomento. In termini di gestione del forum (anche qui su meta, ho notato!), l’applicazione coerente dei tag per ordinare meglio una community e i suoi contenuti continua a essere una battaglia in salita, ed è puro caos su larga scala. Per quelli di noi che si affidano ai tag, questo sarebbe un vantaggio, anche se fosse accurato al 75%.

Terrò d’occhio questo progetto mentre si sviluppa!

[aas]

Fantastico! Hai qualche suggerimento per il debug? Ho appena configurato un’automazione che non si è attivata come previsto. Non vedo log pertinenti.

[sam (Sam Saffron)]

Hmmm cosa è successo qui, puoi aprire un argomento dedicato?

[aas]

A quanto ricordo, all’inizio non avevo impostato questa opzione. Quando l’ho fatto, ha iniziato a funzionare.

[loginerror (Maciej Kuźmicz)]

Domanda veloce. Ci sono piani per visualizzare un registro di controllo per quelle automazioni (magari in modo simile al modello webhook che avete già)?

Aiuterebbe ad alleviare la sensazione spaventosa del “cosa hai fatto” che provo dopo che un’automazione è stata abilitata

[sam (Sam Saffron)]

Ai log memorizza già tutte le interazioni llm. Puoi usarlo oggi tramite una query di esplorazione dati

[loginerror (Maciej Kuźmicz)]

@sam

tutte le interazioni llm

Sebbene ciò sia vero, è piuttosto complicato collegare le voci di registro di tipo llm_triage a un post/argomento a cui si riferiscono, o all’azione che è stata intrapresa (o meno) di conseguenza.

Sarebbe fantastico avere una panoramica di queste azioni