Elementi di revisione "Necessita di approvazione" dallo script "Triage dei post tramite AI" del plugin "Automation" non visibili ai moderatori

[per1234]

Priorità/Gravità:

Media

Piattaforma:

Discourse b66fca70d0e3d12ef930398289fac5269cd240c7

Descrizione:

Lo script “Triage posts using AI” (Controlla i post usando l’IA) del plugin ufficiale “Automation” (Automazione) ha l’opzione di segnalare i post.

Il tipo di segnalazione generata dall’automazione (così come le azioni di accompagnamento) può essere configurato tramite l’impostazione “Flag type” (Tipo di segnalazione) dello script:

• “Add post to review queue” (Aggiungi post alla coda di revisione): causa segnalazioni con il motivo “Needs Approval” (Necessita di approvazione)
• “Flag as spam” (Segnala come spam): causa segnalazioni con il motivo “Spam”

Dato che la funzionalità separata di rilevamento spam di Discourse AI (Discourse AI spam detection feature) fornisce già un rilevamento spam di alta qualità, lo script “Triage posts using AI” sarà spesso utilizzato per attività non correlate allo spam. In questo caso, l’opzione “Add post to review queue” sarà la più appropriata.

Quando l’impostazione “Flag type” di un’automazione è impostata su una delle opzioni di “Add post to review queue”, gli elementi di revisione generati dalle segnalazioni che solleva non sono visibili ai moderatori. L’onere di revisionare queste segnalazioni ricadrà esclusivamente sugli amministratori del forum, anche se si tratta di un’attività di moderazione.

Passaggi per la riproduzione:

1. Accedi a un forum con un account amministratore.
2. Apri la pagina di amministrazione Discourse AI > Personas (/admin/plugins/discourse-ai/ai-personas)
3. Clicca sul pulsante “+ New persona” (Nuova persona).
   Si aprirà la pagina di configurazione della persona.
4. Aggiungi contenuti arbitrari nei campi “Name” (Nome) e “Description” (Descrizione) nella pagina di configurazione della persona.
5. Definisci un prompt nel campo “System prompt” (Prompt di sistema) che sia adatto a innescare l’automazione su un post di prova. Ad esempio:

   Ti verrà dato un pezzo di testo e il tuo compito è determinare se contiene la stringa `foobarbazquxpippoplutopaperino`.
   
   Se il post contiene quella stringa, rispondi `true`. Se il post non contiene quella stringa, rispondi `false`.
   
   La tua risposta deve consistere nel testo `true`, o nel testo `false`, e nient'altro.
   

6. Seleziona un modello dal menu “Default language model” (Modello linguistico predefinito) (ad esempio, “CDCK Hosted Small LLM”).
7. Clicca sul pulsante “Submit” (Invia) in fondo alla pagina.
8. Se non è già abilitato, abilita il plugin integrato “Automation” (Automazione).
9. Naviga alla pagina “Automations” (Automazioni) del plugin (/admin/plugins/automation/automation).
10. Clicca sul pulsante “+ Add automation” (Aggiungi automazione).
    Si aprirà la pagina “Select a script” (Seleziona uno script).
11. Aggiungi un nome arbitrario al campo “Name” nella pagina di configurazione dell’automazione.
12. Seleziona lo script “Triage posts using AI”.
    Si aprirà la pagina di configurazione dell’automazione.
13. Seleziona “Post created/edited” (Post creato/modificato) dal menu When/What… > Trigger (Quando/Cosa… > Trigger).
14. Seleziona la persona creata nei passaggi precedenti dal menu Script options > Persona (Opzioni script > Persona).
15. Digita true nel campo Script options > Search for text (Opzioni script > Cerca testo).
16. Seleziona la casella di controllo Script options > Flag post (Opzioni script > Segnala post).
17. Seleziona Add post to review queue dal menu Script options > Flag type (Opzioni script > Tipo di segnalazione).
18. Facoltativamente, apporta modifiche alle altre impostazioni dell’automazione per facilitare il test.
19. Clicca sul pulsante “Update automation” (Aggiorna automazione) in fondo alla pagina di configurazione dell’automazione.
    Verrai reindirizzato alla pagina “Automations”.
20. Imposta l’interruttore “Enable automation” (Abilita automazione) per l’automazione appena creata sulla posizione “on”.
21. Scrivi un post o un messaggio privato che attiverà l’automazione.
    ⓘ Con il prompt di sistema di esempio fornito sopra, ciò si otterrebbe includendo il testo foobarbazquxpippoplutopaperino nel post.
22. Pubblica il post o il messaggio.
23. Usando l’account amministratore, naviga alla coda di revisione (/review).
    L’automazione ha generato una segnalazione “Needs Approval” per il post di prova.
24. Accedi a un forum con un account non amministratore che dispone di autorizzazioni di moderatore.
25. Naviga alla coda di revisione (/review).

L’elemento di revisione generato dalla segnalazione “Needs Approval” dell’automazione non è visibile all’account moderatore. Anche se si naviga direttamente all’URL dell’elemento di revisione con quell’account, si otterrà solo una pagina 404.

Contesto aggiuntivo:

Il difetto non si verifica se si seleziona invece Flag as spam and hide post (Segnala come spam e nascondi post) dal menu Script options > Flag type.

Sebbene ciò offra una soluzione alternativa, comporta una scarsa esperienza per lo staff di moderazione nel caso d’uso in cui lo script viene utilizzato per controllare i post per motivi diversi dal rilevamento dello spam. Ci aspettiamo che una segnalazione abbia un motivo “Spam” solo nel caso in cui sia sospettata di essere spam.

---

Le segnalazioni “Needs Approval” generate dalla funzionalità “Approve unless allowed groups” (Approva a meno che non siano presenti gruppi consentiti) sono visibili ai moderatori. Questo mi porta a credere che la mancanza di visibilità delle segnalazioni dallo script “Triage posts using AI” sia causata da un bug piuttosto che da una progettazione intenzionale (inspiegabile).

Non credo ci sia alcuna ragione valida per nascondere questi elementi di revisione ai moderatori, ma se ce n’è una, questo comportamento dovrebbe almeno essere reso opzionale.

---

Sono in grado di riprodurre il difetto sul forum forum.arduino.cc.