Questa guida spiega come configurare e utilizzare la funzione di rilevamento dello spam di Discourse AI, incluso il processo di configurazione, i criteri di scansione, la logica di classificazione, le personalizzazioni e i contrasti con l’analisi preliminare (triage) dell’IA.
Livello utente richiesto: Amministratore
Questa funzione è ora attivata di default per i clienti Starter e Pro, così come per i nostri clienti legacy Basic, Open Source, Creator e Business.
Discourse AI fornisce una funzione efficiente di rilevamento dello spam che identifica e segnala i post di spam con una configurazione minima. Sebbene progettata per la semplicità, completa il sistema di analisi preliminare (triage) dell’IA, più versatile, che supporta flussi di lavoro più ampi e casi d’uso più vasti.
Riepilogo
In questa guida imparerai:
- Come funziona il rilevamento dello spam tramite IA e quali contenuti vengono scansionati
- La logica di classificazione e il contesto utilizzati dall’IA
- I passaggi per configurare il rilevamento dello spam tramite
/admin/plugins/discourse-ai/ai-spam- Linee guida per la selezione del Modello Linguistico di Grandi Dimensioni (LLM)
- Differenze chiave tra il rilevamento dello spam e il triage dell’IA
- Come gestire i post segnalati e quelli non rilevati
Come funziona il rilevamento dello spam tramite IA
Quali contenuti vengono scansionati?
Il rilevamento dello spam tramite IA valuta i post in base ai seguenti criteri:
Livello di fiducia dell’utente:
- Scansiona i post degli utenti con un livello di fiducia pari o inferiore al livello massimo configurato (controllato dall’impostazione del sito
ai_spam_detection_max_trust_level, predefinito: livello di fiducia 1).- Esclude i post degli utenti con livelli di fiducia più elevati.
- Esclude sempre i post degli utenti staff e bot, indipendentemente dal livello di fiducia.
Tipo di post:
- Post pubblici (escluse le conversazioni private).
- Sono inclusi sia i post di risposta che i primi post di un argomento, in base a soglie aggiuntive.
Modifiche ai post:
- Scansiona i post con modifiche significative (ad esempio, modifiche superiori a 10 caratteri).
- Applica un ritardo di 10 minuti tra le scansioni dello stesso post.
- Limita le riscansioni a un massimo di 3 scansioni per post.
- Riesegue la scansione solo dei post modificati nelle ultime 24 ore.
Frequenza dei post:
- Scansiona i post degli utenti con un numero di post non superiore alla soglia configurata (controllata dall’impostazione del sito
ai_spam_detection_max_post_count, predefinita: 3 post) negli argomenti pubblici.- Esclude i post degli utenti che superano questa soglia.
Coda di revisione:
- I post che sono già stati approvati dalla coda di revisione non vengono scansionati.
Il processo di classificazione
I post che soddisfano i criteri vengono inviati a un agente IA per l’analisi. L’agente valuta se il post è spam o non è spam e fornisce un motivo per la sua classificazione, utilizzando un output JSON strutturato. La valutazione si basa su:
- Contesto: Include il contenuto del post, il titolo dell’argomento, la categoria, i dati dell’account utente (ad esempio, nome utente, email, età dell’account, numero totale di post e livello di fiducia) e le informazioni di geolocalizzazione basate su IP.
- Analisi delle immagini: Fino a 3 caricamenti di immagini allegati a un post sono inclusi per l’analisi.
- Contesto della risposta: Per i post di risposta, viene incluso il contenuto del post padre (fino a 500 caratteri).
- Informazioni sul sito: Vengono forniti il nome del sito, l’URL, la descrizione e le prime 10 categorie all’IA.
- Istruzioni personalizzate: Regole definite dall’amministratore per criteri di scansione rafforzati o adattati.
- Rilevamento automatico:
- Segnala contenuti irrilevanti o promozionali (ad esempio, annunci o materiali commerciali).
- Identifica comportamenti automatizzati o simili a bot.
- Valuta la pertinenza del contenuto alla discussione.
Prompt predefinito e contesto
L’IA utilizza un prompt di sistema predefinito per guidare il rilevamento dello spam. Il prompt dell’agente di rilevamento spam integrato copre:
Sei un sistema di rilevamento dello spam. Analizza il seguente contenuto del post e il contesto. Considera attentamente il tipo di post: - Per i post di RISPOSTA: Verifica se la risposta è pertinente e attuale rispetto alla discussione - Per i post di NUOVO ARGOMENTO: Verifica se si tratta di una promozione spam o di un argomento legittimo Un post è spam se corrisponde a uno di questi criteri: - Contiene contenuti commerciali non richiesti o promozioni - Presenta link esterni sospetti o non correlati - Mostra schemi di pubblicazione automatizzata/bot - Contiene contenuti irrilevanti o pubblicità - Per le risposte: Completamente non correlato alla discussione in corso - Utilizza parole chiave eccessive o modelli di testo ripetitivi - Presenta formattazione o uso di caratteri sospetti Sii particolarmente severo con: - Risposte che ignorano la conversazione precedente - Post contenenti più link esterni non correlati - Risposte generiche che potrebbero essere pubblicate ovunque Sii equo con: - Nuovi utenti che danno contributi legittimi iniziali - Utenti non madrelingua che fanno sforzi genuini per partecipare - Menzioni di prodotti pertinenti all'argomento in contesti appropriatiLo scanner compila anche un pacchetto di contesto, che include:
- Tipo di post (NUOVO ARGOMENTO o RISPOSTA) con metadati di categoria e argomento.
- Per le risposte: il contenuto del post padre e l’autore dell’argomento.
- Dati dell’autore (nome utente, email, età dell’account, numero totale di post, livello di fiducia e posizione basata su IP).
- Testo del post troncato a 5000 caratteri per l’elaborazione.
- Fino a 3 caricamenti di immagini allegati al post.
Configurare il rilevamento dello spam tramite IA
Guida alla configurazione
Accedi alle impostazioni:
Naviga su/admin/plugins/discourse-ai/ai-spam.Seleziona un LLM:
Se il tuo sito è ospitato da Discourse
Puoi selezionare il nostro LLM Piccolo Ospitato da CDCK dall’elenco degli LLM.
- Scegli un modello linguistico adatto alle esigenze del tuo forum. Consulta la pagina delle impostazioni dei Modelli Linguistici di Grandi Dimensioni (LLM) per la configurazione degli LLM.
- Accedi a
/admin/plugins/discourse-ai/ai-llmsper le configurazioni degli LLM.Attiva il rilevamento dello spam:
Abilita il rilevamento dello spam attivando la funzione.
Aggiungi istruzioni personalizzate:
- Definisci regole specifiche per il tuo forum (ad esempio, monitoraggio più rigoroso dei link esterni).
- Salva eventuali modifiche per applicarle.
Regola le soglie di scansione (facoltativo):
ai_spam_detection_max_trust_level: Imposta il livello di fiducia massimo degli utenti i cui post vengono scansionati (predefinito: 1). Può essere impostato da 0 a 4.ai_spam_detection_max_post_count: Imposta il numero massimo di post che un utente può avere per essere ancora scansionato (predefinito: 3). Può essere impostato da 1 a 100.
Differenze rispetto al triage dell’IA
Mentre il rilevamento dello spam è progettato specificamente per identificare lo spam, il triage dell’IA supporta attività di gestione dei post più ampie.
Funzionalità Rilevamento Spam IA Triage IA Complessità Configurazione snella e opinata Altamente personalizzabile e flessibile Caso d’uso primario Rilevamento dello spam con overhead minimo Flussi di lavoro avanzati per categorizzazione, etichettatura, risposte, rilevamento spam, rilevamento nsfw Azioni Segnala spam, nasconde post, silenzia utenti Etichetta, categorizza, nasconde post, aggiunge risposte, segnala post, silenzia utenti Raccomandazione Configurazione semplice ed efficace per la maggior parte delle situazioni Utilizzare per flussi di lavoro ricchi e altamente personalizzabili Per maggiori dettagli, consulta Discourse AI - AI triage.
Raccomandazioni per la selezione dell’LLM
Le prestazioni del rilevamento dello spam dipendono dall’LLM scelto.
La maggior parte degli LLM a basso costo funziona efficacemente, come ad esempio:
- GPT-4o-mini
- Claude 3.5 Haiku
- Gemini 2.0 Flash
Sperimenta con diversi modelli per trovare quello più adatto. Configura i tuoi modelli tramite
/admin/plugins/discourse-ai/ai-llms.
Testare il comportamento dello scanner anti-spam
Puoi testare le regole di rilevamento dello spam direttamente dalla pagina di configurazione.
- Incolla un URL o un ID del post nel campo di test.
- Rivedi il risultato della classificazione e il ragionamento dell’IA per la sua decisione.
- Le modifiche non salvate vengono applicate durante il test, consentendo la sperimentazione senza rischi.
Gestione dei post segnalati e non rilevati
Gestione dei post segnalati
Quando un post viene rilevato come spam, il sistema:
- Segnala il post come spam e lo aggiunge alla coda di revisione.
- Silenzia l’utente che ha pubblicato.
- Nasconde il post dalla vista pubblica.
- Rende invisibile l’argomento se il post di spam era il primo post dell’argomento.
I post segnalati appaiono nella coda di moderazione. Gli amministratori possono:
- Approvare post legittimi classificati erroneamente come spam.
- Rifiutare argomenti di spam per mantenere accurato il sistema.
Importante: Rifiuta i flag di spam per i post classificati in modo errato. Gli utenti rimangono silenziati fino a quando il flag non viene risolto.
Gestione dello spam non rilevato
Lo spam non rilevato si riferisce a post che aggirano il rilevamento ma vengono segnalati dalla community. I moderatori possono gestirli come necessario.
Best practice
- Monitora regolarmente lo spam segnalato e non rilevato per affinare l’accuratezza del sistema. Le metriche cliccabili semplificano questo processo.
- Utilizza casi di test per valutare le istruzioni personalizzate rispetto ai casi limite.
- Rivedi e regola le impostazioni dell’LLM quando necessario.
- Utilizza le impostazioni del sito
ai_spam_detection_max_trust_leveleai_spam_detection_max_post_countper ottimizzare quali utenti vengono scansionati in base alle esigenze della tua community.
Risorse aggiuntive
Configurare efficacemente il rilevamento dello spam tramite IA riduce gli sforzi di moderazione manuale, garantendo una community pulita e priva di spam.
Abbiamo fatto parecchi test con questo e non sembriamo ottenere risultati affidabili. Per contesto, stiamo usando il modello gpt-4o.
Per testare la sua accuratezza, ho fornito le seguenti semplici istruzioni:
Sei un sistema di rilevamento spam. Analizza il seguente contenuto e contesto.
Note qui sotto. Se *UNO QUALSIASI* degli elementi qui sotto è vero, allora segnalalo come spam:
- Il nome utente è molto specificamente "testjon", allora è *SEMPRE* spam.
- Rispondi solo con "SPAM - È Jon!" o "NON SPAM".
Testare su un post, da parte del nome utente testjon, risulta in NON SPAM. Sembra che non stia prestando affatto attenzione alle istruzioni. Suggerimenti?
Qualcun altro ha avuto esperienze positive o negative con il rilevamento spam dell’IA?
Non so come siano le cose in questa situazione, ma in generale l’affermazione citata è molto incline a rompersi. Non capisce cosa significhi ANY e procede felicemente finché non lo ottiene. E da lì ha trovato infine NOT SPAM.
Quindi stai dicendo di rimuovere il grassetto per ANY? O stai dicendo l’intera affermazione di “se ci sono elementi di seguito”?
Devi scriverlo in modo più logico ed esatto. Non puoi lasciare che un’IA scelga in alcun modo. Ricorda che non sa contare e sicuramente non legge prima tutto e poi torna indietro per cercare di lavorare logicamente. Cerca di spiegare in modo semplice come daresti istruzioni a un bambino pigro di 3 anni con ADHD. Gli esempi non sono sbagliati, ma aumenteranno l’uso dei token.
Queste sono informazioni fantastiche. Ad esempio, come potresti scrivere questo scenario esatto in modo diverso?
Qualcosa del tipo…
Sei un sistema di rilevamento dello spam. Il tuo compito è analizzare silenziosamente i contenuti per mantenere alta la qualità di questo forum. Devi seguire delle regole per definire quando un post è spam. Quando trovi uno spam, la tua risposta è indicata nelle regole. Utilizzi solo risposte indicate.
## Regole per lo spam
Non lo faccio per te 😏 Ma hai bisogno di alcune spiegazioni ed esempi. Come esempio veloce e grezzo:
* se un post contiene link esterni collegati a gioco d'azzardo, sesso, criptovalute, ecc. simili (il termine "simili" è rischioso in questo contesto, tra l'altro), allora un post è classificato come spam. Esempio: www.compra-cripto.affare
Questo devi ottimizzarlo caso per caso, perché otterrai falsi positivi e falsi negativi
Quindi devi fornire anche delle linee guida per i contenuti. Ma durante il test:
* se il nome utente è "testjon", salta l'analisi del contenuto e classificalo direttamente come spam. La tua risposta è "SPAM - è Jon"
A proposito, puoi vedere l'utente?
## Regole per altri contenuti
Quando un post supera l'analisi dello spam e sei sicuro che sia un contenuto legittimo, la tua unica risposta è "NON SPAM".
Qualcosa del genere. Devi testare, ovviamente. E ogni volta che ottieni una risposta errata, cerca di trovare il punto confuso. Ma non dare all’IA l’opportunità di scegliere cosa può fare, perché prenderà la direzione più facile o più piacevole. Ha bisogno di rispondere ed essere felice.
Ho appena abilitato questo e sono entusiasta di vedere come andrà!
C’è un’impostazione o una considerazione per il livello di fiducia degli utenti?
Ad esempio: non ho bisogno che l’IA intervenga per TL2 e superiori, si sono guadagnati il loro posto e non dovrebbero essere presi in considerazione per la scansione. Se dovessero diventare “canaglia”, dovremo avere una parolina con loro 
2 post sono stati divisi in un nuovo argomento: Plugin AI Discourse mancante
Dato che questo sta sostituendo Akismet, mi chiedo quale sia la migliore alternativa per il rilevamento/prevenzione dello spam se non si vogliono i costi LLM che derivano dall’IA?
In realtà, Gemini 2.0 Flash è disponibile gratuitamente, a patto ovviamente di non inviargli un milione di richieste al giorno. Al momento funziona perfettamente per il mio forum a costo zero, ed è decisamente più preciso e “intelligente” di Akismet.
Tuttavia, se il piano di rilevamento spam AI dovesse fallire, ho ancora il plugin Akismet installato sul mio sito e pronto all’uso se dovessi averne bisogno di nuovo, e penso che tu possa ancora installarlo. (Dato che però sta venendo deprecato, non mi aspetto che rimanga per sempre). Ricorda anche che i livelli di fiducia sono una parte fondamentale di Discourse che ti aiutano a gestire lo spam sul tuo sito. 
Oh, è fantastico, è possibile impostare un limite sui token per garantire che il limite (costo zero) sia presente dal LLM?
Per quanto ne so, penso che se superi il limite, l’API per l’LLM smetterà semplicemente di rispondere. Il mio account Google Cloud Console non ha un account di fatturazione collegato e posso ancora utilizzare l’API gratuitamente nel livello gratuito, quindi dovresti stare tranquillo.
Un post è stato diviso in un nuovo argomento: Migliorare il rilevamento dello spam AI per modifiche e unioni
Dove ottengo la “API Key del servizio che ospita il modello”?
Se sei sul nostro hosting, puoi usare LLM Small.
Se non lo sei, devi configurare un LLM e ottenere una chiave da OpenAI/Google/Anthropic/X/qualunque…
Oh, una chiave API da loro, non da Discourse.
L’attivazione del rilevamento dello spam basato sull’IA con Gemini 2.0 Flash non sembra aver aiutato a bloccare questo materiale. Non ho mai avuto uno spam così ovvio che superasse il filtro prima d’ora. Forse è progettato specificamente per i siti Discourse?
| [Errore di QuickBooks Payroll dopo un aggiornamento +1-800-223-1608 Risoluzione passo dopo passo](https://www.foodtalkcentral.com/t/quickbooks-payroll-error-after-an-update-1-800-223-1608-step-by-step-resolution/18669) [nuovo](https://www.foodtalkcentral.com/t/quickbooks-payroll-error-after-an-update-1-800-223-1608-step-by-step-resolution/18669 "nuovo argomento") | [Americhe - Canada](https://www.foodtalkcentral.com/c/canada/7) | [ ](https://www.foodtalkcentral.com/u/xabibe4257)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/quickbooks-payroll-error-after-an-update-1-800-223-1608/18669/1) | 2 | [1h](https://www.foodtalkcentral.com/t/quickbooks-payroll-error-after-an-update-1-800-223-1608/18669/2) | |----|----|----|----|----|----| | [Comprensione dell'errore di aggiornamento della tabella fiscale di QuickBooks Payroll +1-800-223-1608](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-tax-table-update-error-1-800-223-1608/18657) [nuovo](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-tax-table-update-error-1-800-223-1608/18657 "nuovo argomento") | [Americhe - Canada](https://www.foodtalkcentral.com/c/canada/7) | [ ](https://www.foodtalkcentral.com/u/xabibe4257)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-tax-table-update-error-1-800-223-1608/18657/1) | 2 | [1h](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-tax-table-update-error-1-800-223-1608/18657/2) | | [Comprensione dell'errore PS107 di QuickBooks Payroll +1-800-223-1608](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-error-ps107-1-800-223-1608/18640) [nuovo](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-error-ps107-1-800-223-1608/18640 "nuovo argomento") | [Americhe - Canada](https://www.foodtalkcentral.com/c/canada/7) | [ ](https://www.foodtalkcentral.com/u/xabibe4257)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-error-ps107-1-800-223-1608/18640/1) | 2 | [2h](https://www.foodtalkcentral.com/t/understanding-quickbooks-payroll-error-ps107-1-800-223-1608/18640/2) | | [Elenco completo dei numeri di contatto del supporto clienti QuickBooks® USA: la tua guida esperta](https://www.foodtalkcentral.com/t/full-list-of-quickbooks-customer-support-usa-contact-numbers-your-expert-guide/18517) [nuovo](https://www.foodtalkcentral.com/t/full-list-of-quickbooks-customer-support-usa-contact-numbers-your-expert-guide/18517 "nuovo argomento") | [Americhe - Canada](https://www.foodtalkcentral.com/c/canada/7) | [ ](https://www.foodtalkcentral.com/u/domew40238)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/full-list-of-quickbooks-customer-support-usa-contact-numbers-your-expert-guide/18517/1) | 2 | [5h](https://www.foodtalkcentral.com/t/full-list-of-quickbooks-customer-support-usa-contact-numbers-your-expert-guide/18517/2) | | [Numeri di supporto per errori e buste paga di QuickBooks® completi: Guida di riferimento 2025](https://www.foodtalkcentral.com/t/complete-quickbooks-payroll-error-support-numbers-2025-reference-guide/18516) [nuovo](https://www.foodtalkcentral.com/t/complete-quickbooks-payroll-error-support-numbers-2025-reference-guide/18516 "nuovo argomento") | [Asia](https://www.foodtalkcentral.com/c/asia/39) | [ ](https://www.foodtalkcentral.com/u/domew40238)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/complete-quickbooks-payroll-error-support-numbers-2025-reference-guide/18516/1) | 2 | [5h](https://www.foodtalkcentral.com/t/complete-quickbooks-payroll-error-support-numbers-2025-reference-guide/18516/2) | | [{Guida per\\~ Esperti} Informazioni di contatto per il supporto buste paga di QuickBooks® – Guida USA 2025](https://www.foodtalkcentral.com/t/expert-guide-quickbooks-payroll-support-contact-info-2025-usa-guide/18509) [nuovo](https://www.foodtalkcentral.com/t/expert-guide-quickbooks-payroll-support-contact-info-2025-usa-guide/18509 "nuovo argomento") | [Americhe - Canada](https://www.foodtalkcentral.com/c/canada/7) | [ ](https://www.foodtalkcentral.com/u/domew40238)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/expert-guide-quickbooks-payroll-support-contact-info-2025-usa-guide/18509/1) | 4 | [5h](https://www.foodtalkcentral.com/t/expert-guide-quickbooks-payroll-support-contact-info-2025-usa-guide/18509/2) | | [{Chiama@ +1-855-510-6777} Come posso parlare con il supporto per i pacchetti vacanza di Expedia?](https://www.foodtalkcentral.com/t/call-1-855-510-6777-how-can-i-talk-to-expedia-vacation-package-booking-support/18512) [nuovo](https://www.foodtalkcentral.com/t/call-1-855-510-6777-how-can-i-talk-to-expedia-vacation-package-booking-support/18512 "nuovo argomento") | [Louisiana](https://www.foodtalkcentral.com/c/usa-south/louisiana/31) | [ ](https://www.foodtalkcentral.com/u/avacarter)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/call-1-855-510-6777-how-can-i-talk-to-expedia-vacation-package-booking-support/18512/1) | 6 | [5h](https://www.foodtalkcentral.com/t/call-1-855-510-6777-how-can-i-talk-to-expedia-vacation-package-booking-support/18512/2) | | [Elenco completo del supporto Caraibi™ – La guida ufficiale dettagliata](https://www.foodtalkcentral.com/t/complete-list-of-caribbean-support-the-detailed-official-guide/18496) [nuovo](https://www.foodtalkcentral.com/t/complete-list-of-caribbean-support-the-detailed-official-guide/18496 "nuovo argomento") | [Asia](https://www.foodtalkcentral.com/c/asia/39) | [ ](https://www.foodtalkcentral.com/u/jofohe)[](https://www.foodtalkcentral.com/u/system) | [1](https://www.foodtalkcentral.com/t/complete-list-of-caribbean-support-the-detailed-official-guide/18496/1) | 2 | [6h](https://www.foodtalkcentral.com/t/complete-list-of-caribbean-support-the-detailed-official-guide/18496/2) | | [\\[Chiama^Agente^Diretto\\] Quale numero collega al supporto pacchetti vacanza Expedia? {Componi +1-855-510-6777}](https://www.foodtalkcentral.com/t/call-agent-direct-what-number-connects-to-expedia-vacation-package-support-dial-1-855-510-6777/18479) [nuovo](https://www.foodtalkcentral.com/t/call-agent-direct-what-number-connects-to-expedia-vacation-package-support-dial-1-855-510-6777/18479 "nuovo argomento") | [Americhe - Canada](https://www.foodtalkcentral.com/c/canada/7) |
La tua API key non è valida, quindi non sta eseguendo alcun test.
Se esegui un test su https://www.foodtalkcentral.com/admin/plugins/discourse-ai/ai-spam e incolli quell’URL, otterrai un errore 500. Se ti addentri nei log in
/var/discourse/shared/web-only/log/rails/production.log e cerchi " 500 ", vedrai
Completed 200 OK in 399ms (Views: 123.1ms | ActiveRecord: 0.0ms (0 queries, 0 cached) | GC: 22.9ms)
DiscourseAi::Completions::Endpoints::Gemini: status: 400 - body: {
"error": {
"code": 400,
"message": "API key not valid. Please pass a valid API key.",
"status": "INVALID_ARGUMENT",
"details": [
{
"@type": "type.googleapis.com/google.rpc.ErrorInfo",
"reason": "API_KEY_INVALID",
"domain": "googleapis.com",
"metadata": {
"service": "generativelanguage.googleapis.com"
}
},
{
"@type": "type.googleapis.com/google.rpc.LocalizedMessage",
"locale": "en-US",
"message": "API key not valid. Please pass a valid API key."
}
]
}
}
Oh, grazie. Ho selezionato accidentalmente Gemini 2.0 Flash invece di Gemini 2.0 Flash Lite. Ora funziona correttamente.