Più di 3 milioni di lavori in coda mostrati in Sidekiq? Come posso fermare la generazione della coda?

Supporto
1

ora 3k dopo che li ho puliti tutti

L'immagine mostra una raccolta di processi per un riepilogo della chat, con dettagli sugli ID utente e sul rispetto forzato visto di recente nelle impostazioni. (Didascalia dell'IA)
L'immagine mostra una raccolta di processi per un riepilogo della chat, con dettagli sugli ID utente e sul rispetto forzato visto di recente nelle impostazioni. (Didascalia dell'IA)2452×342 112 KB

Cerco nelle impostazioni della chat o del riepilogo nella dashboard di amministrazione ma non trovo nulla.

Qualche idea da dove provengono? :sob:

P.s. quei processi rendono il mio sito estremamente lento :sob:

1 Mi Piace
2

Cosa c’è nella scheda Retries di Sidekiq?

L'immagine mostra lo stato di una coda di attività con 37.170,868 attività elaborate, 27.055 attività fallite, 6 attività in coda, 4 attività pianificate e 4 attività morte. (Didascalia dell'IA)
L'immagine mostra lo stato di una coda di attività con 37.170,868 attività elaborate, 27.055 attività fallite, 6 attività in coda, 4 attività pianificate e 4 attività morte. (Didascalia dell'IA)1356×120 15.2 KB

Qui ci sono 6 processi in fase di ripetizione. È un numero discreto e so perché.

Se questo numero è nell’ordine delle migliaia, non va bene e devi intervenire.

Hai riscontrato errori nei log delle email o nei log degli errori del server /logs?

Cose a cui pensare:

Il tuo provider di servizi di posta elettronica ti sta limitando? Hai superato i loro limiti di velocità per il livello di servizio su cui ti trovi? Hai pagato la fattura con loro?

3 Mi Piace
3

Riepilogo degli stati dei processi mostra 11.222.546 attività elaborate, 6 pianificate e nessuna ripetizione trovata. (Sottotitolato dall'IA)
Riepilogo degli stati dei processi mostra 11.222.546 attività elaborate, 6 pianificate e nessuna ripetizione trovata. (Sottotitolato dall'IA)2486×602 120 KB

è zero

Screenshot che mostra un file di registro con vari messaggi di sistema e notifiche di errore. (Sottotitolato dall'IA)
Screenshot che mostra un file di registro con vari messaggi di sistema e notifiche di errore. (Sottotitolato dall'IA)1920×1064 224 KB

e non sembra avere problemi relativi alle e-mail nel registro.

C’è qualche impostazione relativa al riepilogo della chat che posso disattivare o dovrei semplicemente disattivare la chat?

4

L’intera coda è composta per la maggior parte da processi UserEmail?

Controlla la dashboard del tuo servizio di posta elettronica (presso il tuo provider di servizi di posta elettronica, non su Discourse) e vedi se ci sono informazioni lì.

1 Mi Piace
5

Sì, quasi tutte sono email di lavoro degli utenti

Ho controllato Mailgun (4 istanze in esecuzione sul mio account)

la prima è l’unica che incontra questo problema e la data non sembra essere errata, ho controllato anche i log ma non ho trovato nulla di sospetto.

Una tabella che mostra varie metriche per diversi domini di posta, come la percentuale di email accettate, consegnate, rimbalzate, aperte, cliccate e segnalate come spam. (Didascalia dell'IA)
Una tabella che mostra varie metriche per diversi domini di posta, come la percentuale di email accettate, consegnate, rimbalzate, aperte, cliccate e segnalate come spam. (Didascalia dell'IA)2536×960 117 KB

6

Hanno una pista di controllo, si può vedere un passaggio continuo di e-mail inviate?

Ultima e-mail inviata?

7

Una tabella che mostra lo stato di consegna delle e-mail, con tutte le e-mail contrassegnate come "Delivered" o "Accepted" con il messaggio "OK" o "(...)". (Didascalia dell'IA)
Una tabella che mostra lo stato di consegna delle e-mail, con tutte le e-mail contrassegnate come "Delivered" o "Accepted" con il messaggio "OK" o "(...)". (Didascalia dell'IA)2518×1396 175 KB

come questo?

e l’ultimo dovrebbe essere 12 minuti fa

8

Quindi alcuni stanno passando, ma li sta elaborando abbastanza velocemente?

9

come posso verificarlo?
su discourse (admin/email/sent) ho visto che l’email di riepilogo della chat è stata inviata con una bassa frequenza, come al massimo 5-6 al giorno, il più delle volte solo 1 o nessuna. :sob: come mai crea così tanti job in sidekiq?

1 Mi Piace
10

Dai un’occhiata ai log delle tue email in Admin… questo potrebbe darti maggiore chiarezza

11

Ho notato una cosa: il problema della coda di Sidekiq è iniziato subito dopo l’aggiornamento a 3.4.0.beta4-dev, anche l’altra istanza che ho installato all’incirca nello stesso periodo sembra avere il problema (lo sto confermando ora).

Ho anche controllato gli ID, sembra che il sistema stia cercando di inviare il riepilogo della chat a tutti gli utenti :thinking:
È normale?

Una tabella che mostra i lavori correnti a bassa priorità, inclusi i loro argomenti. (Didascalia generata dall'IA)
Una tabella che mostra i lavori correnti a bassa priorità, inclusi i loro argomenti. (Didascalia generata dall'IA)1060×1128 91.2 KB

aggiornamento:
Disattivare la chat impedisce che vengano accodati altri lavori, ma il mio sito ha bisogno della funzione chat e sto ancora cercando altre soluzioni.

un altro aggiornamento:
Ho disattivato la funzione chat per 2 giorni, l’ho riattivata e ho modificato i giorni di conservazione del canale chat da 180 a 3 giorni. Ora sembra funzionare bene, continuerò a monitorarla.

aggiornamento 02/01:

Ho impostato i giorni di conservazione a 7, circa 1.101.685 lavori accodati al momento, sembra che il mio server sia in grado di gestire questa quantità e il sito non diventerà lento.

4 Mi Piace
12

@th21 quanti utenti e canali di chat hai?

Quanto “velocemente” (o lentamente :cry:) viene elaborata la coda low?

13

9k utenti e 3 canali (incluso 1 canale staff predefinito)

questo è lo stato attuale

L'immagine mostra una dashboard con 40.301.858 elementi elaborati, 40 tentativi falliti, 5 istanze occupate e 5.522 elementi in coda in quattro code etichettate come critiche, predefinite, basse e ultra-basse, ordinate per latenza e dimensione. (Didascalia dell'IA)
L'immagine mostra una dashboard con 40.301.858 elementi elaborati, 40 tentativi falliti, 5 istanze occupate e 5.522 elementi in coda in quattro code etichettate come critiche, predefinite, basse e ultra-basse, ordinate per latenza e dimensione. (Didascalia dell'IA)1430×860 105 KB

prima di apportare le modifiche sopra menzionate, la dimensione della coda bassa sembrava non diminuire mai

14

Mi dispiace @th21, era effettivamente un bug che verrà corretto da

Abbiamo una query che elenca tutte le menzioni o i messaggi privati “non letti” per la chat e, nel tentativo di essere troppo intelligenti, si è rivelata errata. Invece di accodare un “riepilogo della chat” (notifica via email) per le menzioni nei canali o i messaggi privati non letti, accodava un job per ogni messaggio :expressionless: Poiché quel job veniva eseguito ogni 5 minuti, ha facilmente riempito sidekiq di job inutili… (nota: le email non venivano fortunatamente inviate poiché non saremmo stati in grado di recuperare alcuna menzione).

4 Mi Piace
15

Grazie, qual è l’orario di arrivo stimato per il merge di questo commit in test-passed?

1 Mi Piace
16

Meno di 48 ore

1 Mi Piace
17

@th21 è stato revisionato e unito :+1:

1 Mi Piace
18

Questo argomento è stato chiuso automaticamente 30 giorni dopo l’ultima risposta. Non sono più consentite nuove risposte.