Impossibile ripristinare a causa di indici corrotti (con alcuni indizi su come gestire gli indici corrotti)

Supporto Installazione
1

Questo backup è fallito più volte a causa di errori come:

ERROR:  could not create unique index "index_incoming_referers_on_path_and_incoming_domain_id"
DETAIL:  Key (path, incoming_domain_id)=(/@dataandme, 41) is duplicated.               
ERROR:  current transaction is aborted, commands ignored until end of transaction block

Ho rimosso manualmente tutti quei record in Rails con comandi del tipo:
IncomingReferer.where(path: ‘/@dataandme’).destroy_all

Tuttavia, l’operazione continua a fallire e

...
[2019-12-30 20:29:16] 'pfaffman' ha avviato il ripristino!
[2019-12-30 20:29:16] Impostazione dello stato del ripristino su "in corso"...
[2019-12-30 20:29:16] Verifica dell'esistenza di /var/www/discourse/tmp/restores/default/2019-12-30-202916...
[2019-12-30 20:29:16] Download dell'archivio nella directory tmp...
[2019-12-30 20:29:38] Nessun file di metadati da estrarre.
[2019-12-30 20:29:38] Validazione dei metadati...
[2019-12-30 20:29:38]   Versione corrente: 20191129144706
[2019-12-30 20:29:38]   Versione da ripristinare: 20191129144706
[2019-12-30 20:29:38] Estrazione del file dump...
[2019-12-30 20:30:07] Creazione delle funzioni mancanti nello schema discourse_functions
[2019-12-30 20:30:08] Impossibile ripristinare in uno schema diverso; ripristino in loco
[2019-12-30 20:30:08] Attivazione della modalità sola lettura...
[2019-12-30 20:30:08] Sospensione di sidekiq...
[2019-12-30 20:30:08] Attesa del completamento dei job in esecuzione da parte di sidekiq...
[2019-12-30 20:30:08] Ripristino del file dump... (potrebbe richiedere molto tempo)

 ----- e così via -----
[2019-12-30 20:33:17] ERROR:  current transaction is aborted, commands ignored until end of transaction block
[2019-12-30 20:33:17] ERROR:  current transaction is aborted, commands ignored until end of transaction block
[2019-12-30 20:33:17] EXCEPTION: psql failed
[2019-12-30 20:33:17] /var/www/discourse/lib/backup_restore/restorer.rb:331:in `restore_dump'
/var/www/discourse/lib/backup_restore/restorer.rb:75:in `run'
/var/www/discourse/lib/backup_restore.rb:166:in `block in start!'
/var/www/discourse/lib/backup_restore.rb:163:in `fork'
/var/www/discourse/lib/backup_restore.rb:163:in `start!'
/var/www/discourse/lib/backup_restore.rb:22:in `restore!'
/var/www/discourse/app/controllers/admin/backups_controller.rb:119:in `restore'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal/basic_implicit_render.rb:6:in `send_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/abstract_controller/base.rb:196:in `process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal/rendering.rb:30:in `process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/abstract_controller/callbacks.rb:42:in `block in process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/activesupport-6.0.1/lib/active_support/callbacks.rb:135:in `run_callbacks'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/abstract_controller/callbacks.rb:41:in `process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal/rescue.rb:22:in `process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal/instrumentation.rb:33:in `block in process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/activesupport-6.0.1/lib/active_support/notifications.rb:180:in `block in instrument'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/activesupport-6.0.1/lib/active_support/notifications/instrumenter.rb:24:in `instrument'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/activesupport-6.0.1/lib/active_support/notifications.rb:180:in `instrument'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal/instrumentation.rb:32:in `process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal/params_wrapper.rb:245:in `process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/activerecord-6.0.1/lib/active_record/railties/controller_runtime.rb:27:in `process_action'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/abstract_controller/base.rb:136:in `process'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionview-6.0.1/lib/action_view/rendering.rb:39:in `process'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-mini-profiler-1.1.3/lib/mini_profiler/profiling_methods.rb:104:in `block in profile_method'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal.rb:191:in `dispatch'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_controller/metal.rb:252:in `dispatch'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/routing/route_set.rb:51:in `dispatch'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/routing/route_set.rb:33:in `serve'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/routing/mapper.rb:18:in `block in <class:Constraints>'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/routing/mapper.rb:48:in `serve'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/journey/router.rb:49:in `block in serve'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/journey/router.rb:32:in `each'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/journey/router.rb:32:in `serve'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/routing/route_set.rb:837:in `call'
/var/www/discourse/lib/middleware/omniauth_bypass_middleware.rb:68:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/tempfile_reaper.rb:15:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/conditional_get.rb:38:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/head.rb:12:in `call'
/var/www/discourse/lib/content_security_policy/middleware.rb:12:in `call'
/var/www/discourse/lib/middleware/anonymous_cache.rb:318:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/session/abstract/id.rb:232:in `context'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/session/abstract/id.rb:226:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/cookies.rb:648:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/callbacks.rb:27:in `block in call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/activesupport-6.0.1/lib/active_support/callbacks.rb:101:in `run_callbacks'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/callbacks.rb:26:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/actionable_exceptions.rb:17:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/debug_exceptions.rb:32:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/show_exceptions.rb:33:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/logster-2.4.2/lib/logster/middleware/reporter.rb:43:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/railties-6.0.1/lib/rails/rack/logger.rb:38:in `call_app'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/railties-6.0.1/lib/rails/rack/logger.rb:28:in `call'
/var/www/discourse/config/initializers/100-quiet_logger.rb:18:in `call'
/var/www/discourse/config/initializers/100-silence_logger.rb:31:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/remote_ip.rb:81:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/request_id.rb:27:in `call'
/var/www/discourse/lib/middleware/enforce_hostname.rb:17:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/method_override.rb:22:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/executor.rb:14:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/sendfile.rb:111:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/actionpack-6.0.1/lib/action_dispatch/middleware/host_authorization.rb:77:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-mini-profiler-1.1.3/lib/mini_profiler/profiler.rb:296:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/message_bus-2.2.3/lib/message_bus/rack/middleware.rb:57:in `call'
/var/www/discourse/lib/middleware/request_tracker.rb:181:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/railties-6.0.1/lib/rails/engine.rb:526:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/railties-6.0.1/lib/rails/railtie.rb:190:in `public_send'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/railties-6.0.1/lib/rails/railtie.rb:190:in `method_missing'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/urlmap.rb:68:in `block in call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/urlmap.rb:53:in `each'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/rack-2.0.7/lib/rack/urlmap.rb:53:in `call'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/unicorn-5.5.1/lib/unicorn/http_server.rb:605:in `process_client'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/unicorn-5.5.1/lib/unicorn/http_server.rb:700:in `worker_loop'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/unicorn-5.5.1/lib/unicorn/http_server.rb:548:in `spawn_missing_workers'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/unicorn-5.5.1/lib/unicorn/http_server.rb:144:in `start'
/var/www/discourse/vendor/bundle/ruby/2.6.0/gems/unicorn-5.5.1/bin/unicorn:128:in `<top (required)>'
/var/www/discourse/vendor/bundle/ruby/2.6.0/bin/unicorn:23:in `load'
/var/www/discourse/vendor/bundle/ruby/2.6.0/bin/unicorn:23:in `<main>'
[2019-12-30 20:33:17] Tentativo di rollback...
[2019-12-30 20:33:17] Esecuzione del rollback...
[2019-12-30 20:33:17] Pulizia dei file temporanei...
[2019-12-30 20:33:17] Rimozione della funzione dallo schema discourse_functions
[2019-12-30 20:33:17] Rimozione della directory tmp '/var/www/discourse/tmp/restores/default/2019-12-30-202916'...
[2019-12-30 20:33:17] Ripresa di sidekiq...
[2019-12-30 20:33:17] Disattivazione della modalità sola lettura...
[2019-12-30 20:33:17] Impostazione dello stato del ripristino su "completato"...
[2019-12-30 20:33:17] Notifica a 'pfaffman' della fine del ripristino...
[2019-12-30 20:33:34] Finito!

Ora non vedo nulla che io sappia come risolvere.

Potrei aggiornare il sito di staging su cui sto cercando di eseguire il ripristino, ma preferirei non aggiornare il sito di produzione senza prima aver verificato che tutto funzioni correttamente su staging…

2

Sei sicuro che psql non abbia registrato altri errori prima di questo? Di solito questo accade quando un precedente comando SQL fallisce.

Inoltre, perché il database originale contiene record duplicati nella tabella incoming_referers? L’indice unico su quella tabella esiste dal 2014. Forse il database che stai cercando di ripristinare presenta molti più problemi di questo?

3

Grazie, Gerhard! Apprezzo molto il tuo aiuto. Questa situazione diventa sempre più strana.

Non ha senso nemmeno per me che ci fosse un problema con incoming_referers. Ho eseguito un ripristino da produzione a questo sito di staging così recentemente come ottobre.

Sembra che ci sia qualcosa che non va nel database o negli indici. Sospettavo un plugin, ma gli errori si verificano in troppi indici diversi per pensare che un singolo plugin possa essere la causa. Una precedente ricerca con grep nei plugin per i problemi di indice rotto non ha dato esito.

Durante un ripristino ho ottenuto questo:

[2020-01-03 16:25:30] ERROR:  could not create unique index "index_plugin_store_rows_on_plugin_name_and_key"

Ho eseguito:

[10] pry(main)> PluginStoreRow.where(plugin_name: 'discourse-data-explorer',key: 'q:-8').destroy_all

E ho riprovato:

[2020-01-03 16:49:16] ERROR:  could not create unique index "index_tags_on_lower_name"
[2020-01-03 16:49:16] DETAIL:  Key (lower(name::text))=(addins) is duplicated.

Ecco l’intero inizio dell’ultimo ripristino:

[2020-01-03 16:41:34] 'pfaffman' ha avviato il ripristino!
[2020-01-03 16:41:34] Segnatura del ripristino come in corso...
[2020-01-03 16:41:34] Verifica dell'esistenza di /var/www/discourse/tmp/restores/default/2020-01-03-164133...
[2020-01-03 16:41:34] Download dell'archivio nella directory tmp...
[2020-01-03 16:45:20] Nessun file di metadati da estrarre.
[2020-01-03 16:45:20] Validazione dei metadati...
[2020-01-03 16:45:20]   Versione corrente: 20191220134101
[2020-01-03 16:45:20]   Versione ripristinata: 20191129144706
[2020-01-03 16:45:20] Estrazione del file dump...
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:15] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] CREATE INDEX
[2020-01-03 16:49:16] ERROR:  could not create unique index "index_tags_on_lower_name"
[2020-01-03 16:49:16] DETAIL:  Key (lower(name::text))=(addins) is duplicated.
[2020-01-03 16:49:16] ERROR:  current transaction is aborted, commands ignored until end of transaction block
[2020-01-03 16:49:16] ERROR:  current transaction is aborted, commands ignored until end of transaction block
[2020-01-03 16:49:16] ERROR:  current transaction is aborted, commands ignored until end of transaction block
4

Immagino che dovrai pulire i dati manualmente finché il ripristino non funzionerà e tutti gli indici unici potranno essere creati.

A parte questo, mi chiedo se abbiamo distribuito una versione di PostgreSQL con un bug in una delle immagini base più recenti. Negli ultimi uno o due mesi ci sono state diverse segnalazioni di problemi con indici corrotti. Sembra una strana coincidenza. :thinking:

6

Mi piacerebbe ricevere una spiegazione che non fosse semplicemente “Jay ha fatto di nuovo una stupidaggine”. :wink:

A titolo di informazione, sono abbastanza sicuro di aver aggiornato di recente il contenitore dei dati di questo sito poco prima che tutto iniziasse.

8

Potresti dare un’occhiata alle date created_at dei record duplicati e cercare di capire quale versione di Postgres era in uso in quel momento. @falco ha menzionato che PG 10.0 e 10.1 presentavano problemi con indici corrotti, ma ciò è avvenuto molto tempo fa (la versione 10.2 è stata rilasciata l’8 febbraio 2018) e abbiamo iniziato a distribuire PG 10 solo ad aprile 2018 (quindi dopo il rilascio della 10.2). Quindi, o si tratta di un nuovo bug in PG o semplicemente di sfortuna. :man_shrugging:

9

Hmm. Bene, in produzione c’è la 10.10 e in staging la 10.11.

Inoltre, alcuni dei record per cui i log segnalavano un errore a causa di un duplicato mostravano in realtà un solo record. Forse il record è stato eliminato, ma non è stato rimosso anche dall’indice? Ha senso?

10

Ora, però, gli indici non vengono ricreati ad ogni aggiornamento.

Sì, poiché sono oggetti diversi su disco.

11

Ecco un indizio:

discourse=> reindex table tags;
ERROR:  could not create unique index "index_tags_on_lower_name"
DETAIL:  Key (lower(name::text))=(addins) is duplicated.

discourse=> select * from tags where name='addins';
 id  |  name  | topic_count |         created_at         |         updated_at         | pm_topic_count 
-----+--------+-------------+----------------------------+----------------------------+----------------
 143 | addins |          16 | 2017-11-13 20:08:51.345607 | 2017-11-13 20:08:51.345607 |              0
(1 row)

discourse=> select * from tags where name like '%dins';
 id  |  name  | topic_count |         created_at         |         updated_at         | pm_topic_count 
-----+--------+-------------+----------------------------+----------------------------+----------------
 143 | addins |          16 | 2017-11-13 20:08:51.345607 | 2017-11-13 20:08:51.345607 |              0
 721 | addins |           3 | 2019-11-19 10:01:32.406178 | 2019-11-19 10:01:32.406178 |              0

Non riesco a vedere la differenza tra i due, ma il primo select ne ha trovato solo uno?

12

Se esegui EXPLAIN ANALYZE select * from tags where name='addins'; scoprirai il motivo.

Era probabilmente uno scan solo sull’indice (ne dubito perché stai selezionando troppe colonne) oppure uno scan bitmap dell’heap, in cui viene utilizzato l’indice per determinare quali righe selezionare. Poiché l’indice è corrotto…

13

Questo è esattamente il problema che ho avuto recentemente con il mio indice corrotto. Ho finito per ispezionare questi account, scoprendo spesso che erano identici (stesso indirizzo email), ne ho rinominato uno e poi li ho uniti. È stato un lavoro piuttosto intenso perché è stato quasi tutto manuale, ma ora ho un indice nuovo di zecca :slight_smile:

Edit: ops, il mio problema era nella tabella degli utenti. Stesso problema di chiave duplicata, però.

14

Anche in questo caso c’erano due voci in cui ‘shiny-server’ corrispondeva a una sola, mentre ‘%hiney-server’ corrispondeva a entrambe. Non vedo come questo mi aiuti a capire, ma penso tu stia dicendo che la mia istruzione select si aspetta che venga restituito un solo elemento, lo estrae dall’indice ignorando gli altri, mentre quando uso % viene eseguita una ricerca nei campi.

discourse=> EXPLAIN ANALYZE select * from tags where name='shiny-server'; 
                                                        QUERY PLAN                                                        
--------------------------------------------------------------------------------------------------------------------------
 Index Scan using index_tags_on_name on tags  (cost=0.28..8.29 rows=1 width=36) (actual time=0.038..0.040 rows=1 loops=1)
   Index Cond: ((name)::text = 'shiny-server'::text)
 Planning time: 0.129 ms
 Execution time: 0.070 ms
(4 righe)

Dubito fortemente che chiunque non sia in grado di capire tutto questo da solo troverà utile questa spiegazione, ma… ho cercato di individuare le due tag_id con lo stesso nome e ho eseguito operazioni del tipo:

 TopicTag.where(tag_id: 717).update_all(tag_id: 611)
 Tag.ensure_consistency!
 Tag.find(717) # assicurati che non sia associato a nessun argomento
 Tag.find(717).destroy

e poi ho eseguito reindex table tags; in psql.

Sembra ora che dovrò fare lo stesso per users, più o meno come descritto da @bartv. Tuttavia, con i miei utenti, vedo un utente David e un altro utente david, oltre a [Mm]ark.

Questi li ho risolti così:

marks=User.where("username similar to  '[Mm]+ark'").pluck(:id,:username,:created_at)

Poi ho individuato il nuovo Mark in /admin/users e ho rinominato l’utente lì. Infine, ho provato a eseguire reindex table users; in psql (sudo su - discourse e poi psql).

15

Pensala così. Se devi cercare Pfaffman in un elenco telefonico, vai alla P, poi cerchi le voci comprese tra Pe e Pg, poi tra Pfa e Pfb e così via. Sfrutti il fatto che le voci sono ordinate alfabeticamente per trovare rapidamente l’ingresso. Ora immagina, come esperimento mentale, che uno degli editori dell’elenco non abbia memorizzato correttamente l’alfabeto e abbia inserito alcuni Pfaffman nel posto sbagliato (un indice corrotto). Non li troverai.

Ora devi cercare tutte le persone il cui cognome finisce con faffman. Non esiste un modo veloce per farlo: dovrai scorrere l’intero elenco telefonico. È un bel lavoro! Ma… in questo modo troverai i Pfaffman inseriti erroneamente!