Questo argomento copre la configurazione della funzionalità di tossicità del plugin Discourse AI.
Livello utente richiesto: Amministratore
I moduli di tossicità possono classificare automaticamente il punteggio di tossicità di ogni nuovo post e messaggio di chat nella tua istanza Discourse. Puoi anche abilitare il contrassegno automatico dei contenuti che superano una soglia.
Le classificazioni vengono memorizzate nel database, quindi puoi abilitare il plugin e utilizzare Data Explorer per report immediati sulla classificazione dei nuovi contenuti in Discourse. Presto forniremo alcune query Data Explorer predefinite con il plugin per semplificare questo processo.
Impostazioni
ai_toxicity_enabled: Abilita o disabilita il modulo
ai_toxicity_inference_service_api_endpoint: URL in cui è in esecuzione l’API per il modulo di tossicità. Se utilizzi l’hosting CDCK, questo viene gestito automaticamente. Se esegui l’hosting autonomo, consulta la guida all’hosting autonomo.
ai_toxicity_inference_service_api_key: Chiave API per l’API di tossicità configurata sopra. Se utilizzi l’hosting CDCK, questo viene gestito automaticamente. Se esegui l’hosting autonomo, consulta la guida all’hosting autonomo.
ai_toxicity_inference_service_api_model: ai_toxicity_inference_service_api_model: Offriamo tre modelli diversi:
original,unbiasedemultilingual. Si consigliaunbiasedrispetto aoriginalperché cercherà di non riportare i pregiudizi introdotti dal materiale di addestramento nella classificazione. Per le community multilingue, l’ultimo modello supporta italiano, francese, russo, portoghese, spagnolo e turco.ai_toxicity_flag_automatically: Contrassegna automaticamente post/messaggi di chat quando la classificazione per una categoria specifica supera la soglia configurata. Le categorie disponibili sono
toxicity,severe_toxicity,obscene,identity_attack,insult,threatesexual_explicit. Esiste un’impostazioneai_toxicity_flag_threshold_${category}per ciascuna di esse.ai_toxicity_groups_bypass: Gli utenti appartenenti a questi gruppi non avranno i loro post classificati dal modulo di tossicità. Per impostazione predefinita include gli utenti dello staff.
Risorse aggiuntive
10 Mi Piace