Falha no upload de backup para S3 na Scaleway (upload multipart)

markersocial · Janeiro 30, 2021, 10:53am

Executando na versão 2.6.1 estável com um clone S3 (Scaleway). Aqui está o log:

[2021-01-30 09:52:59] Fazendo upload do arquivo...
[2021-01-30 09:55:36] EXCEÇÃO: falha ao abortar upload multipart: O upload multipart especificado não existe. O ID de upload pode estar inválido, ou o upload multipart pode ter sido abortado ou concluído.
[2021-01-30 09:55:36] /var/www/discourse/vendor/bundle/ruby/2.7.0/gems/aws-sdk-s3-1.83.2/lib/aws-sdk-s3/multipart_file_uploader.rb:94:in `rescue in abort_upload'
/var/www/discourse/vendor/bundle/ruby/2.7.0/gems/aws-sdk-s3-1.83.2/lib/aws-sdk-s3/multipart_file_uploader.rb:82:in `abort_upload'
/var/www/discourse/vendor/bundle/ruby/2.7.0/gems/aws-sdk-s3-1.83.2/lib/aws-sdk-s3/multipart_file_uploader.rb:78:in `upload_parts'
/var/www/discourse/vendor/bundle/ruby/2.7.0/gems/aws-sdk-s3-1.83.2/lib/aws-sdk-s3/multipart_file_uploader.rb:51:in `upload'
/var/www/discourse/vendor/bundle/ruby/2.7.0/gems/aws-sdk-s3-1.83.2/lib/aws-sdk-s3/file_uploader.rb:38:in `upload'
/var/www/discourse/vendor/bundle/ruby/2.7.0/gems/aws-sdk-s3-1.83.2/lib/aws-sdk-s3/customizations/object.rb:342:in `upload_file'
/var/www/discourse/lib/backup_restore/s3_backup_store.rb:39:in `upload_file'
/var/www/discourse/lib/backup_restore/backuper.rb:301:in `upload_archive'
/var/www/discourse/lib/backup_restore/backuper.rb:41:in `run'
/var/www/discourse/script/spawn_backup_restore.rb:9:in `backup'
/var/www/discourse/script/spawn_backup_restore.rb:34:in `block in <main>'
/var/www/discourse/script/spawn_backup_restore.rb:4:in `fork'
/var/www/discourse/script/spawn_backup_restore.rb:4:in `<main>'
[2021-01-30 09:55:36] Excluindo backups antigos...
[2021-01-30 09:55:36] Limpando arquivos...
[2021-01-30 09:55:36] Removendo arquivo do armazenamento local...
[2021-01-30 09:55:36] Removendo resíduos '.tar'...
[2021-01-30 09:55:36] Marcando backup como concluído...
[2021-01-30 09:55:36] Atualizando estatísticas de disco...

Tenho a mesma configuração em alguns outros servidores e os backups estão funcionando corretamente (embora os tamanhos dos backups sejam significativamente menores, então o upload multipart provavelmente não seja o fator). Parece que eles também suportam uploads multipart: Managing multipart uploads | Scaleway Documentation - então não sei qual é o problema.

Freez · Fevereiro 11, 2021, 2:23pm

O mesmo para mim, com o Scaleway S3

Meu primeiro backup falhou há 9 dias:

EXCEPTION: multipart upload failed:
Your request was not formed properly;
Your request was not formed properly

Depois, a cada um ou dois dias:

EXCEPTION: failed to abort multipart upload:
The specified multipart upload does not exist.
The upload ID might be invalid, or
the multipart upload might have been aborted or completed.

@Falco, o que podemos fazer para entender o que está acontecendo?
Obrigado

Falco · Fevereiro 11, 2021, 2:26pm

Respondi a isso ontem. Entre em contato com a Scaleway.

Freez · Fevereiro 19, 2021, 4:33pm

Feito
Mas o suporte deles precisa de mais informações
Eles precisam de uma lista das partes, para ver se recebemos uma resposta ou uma mensagem de erro para cada parte.

Existe alguma maneira de habilitar o registro de logs (requisições HTTP?) nos gems do AWS?

Obrigado

Falco · Fevereiro 19, 2021, 5:17pm

É o dia de sorte deles, já que o Discourse é de código aberto, então podem ver exatamente o que está acontecendo!

O rastreamento de chamada (backtrace) mostra que o erro vem de

que é

github.com/discourse/discourse

lib/backup_restore/s3_backup_store.rb

main


      
          end
          
          def delete_file(filename)
            obj = s3_helper.object(filename)
          
            if obj.exists?
              obj.delete
              reset_cache
            end
          end
          
          def download_file(filename, destination_path, failure_message = nil)
            s3_helper.download_file(filename, destination_path, failure_message)
          end
          
          def upload_file(filename, source_path, content_type)
            obj = s3_helper.object(filename)
            raise BackupFileExists.new if obj.exists?
          
            obj.upload_file(source_path, content_type: content_type)
            reset_cache

Trata-se de uma chamada para este método no SDK:

De acordo com a documentação, ele usará por padrão um upload multipart quando o arquivo for maior que 15 MB.

Analisando o código-fonte, parece que este método está sendo utilizado:

github.com/aws/aws-sdk-ruby

gems/aws-sdk-s3/lib/aws-sdk-s3/multipart_file_uploader.rb

version-3


      
              abort_upload(upload_id, options, errors)
            end
          end
          
          def abort_upload(upload_id, options, errors)
            @client.abort_multipart_upload(bucket: options[:bucket], key: options[:key], upload_id: upload_id)
            msg = "multipart upload failed: #{errors.map(&:message).join('; ')}"
            raise MultipartUploadError.new(msg, errors)
          rescue MultipartUploadError => e
            raise e

E a linha 74 está gerando um erro.

Freez · Março 16, 2021, 5:35pm

Está funcionando novamente, sem nenhuma modificação
7 de 10 estão com sucesso agora

Falco · Março 16, 2021, 5:50pm

Ótimas notícias. A vantagem de implementar em conformidade com a especificação de facto do S3 é que eles corrigem do lado deles e não precisamos de nenhuma alteração.

markersocial · Março 18, 2021, 8:07am

Infelizmente, ainda está me dando o mesmo erro
Espero que eles simplesmente ainda não tenham implementado totalmente as correções.

Freez · Março 23, 2021, 9:20am

Processo de backup 100% bem-sucedido agora!
Problema “fechado” para mim.

Tópico		Respostas	Visualizações
If backup to s3 upload fails, backup is stored locally but ignores the backup limit Bug	3	502	28 de Abril de 2021
Occasional backup to S3 failure: "multipart upload failed: no tomes available" Self-hosting backups , s3	0	335	5 de Dezembro de 2023
Using Scaleway s3-compatible object storage Support	27	4044	6 de Abril de 2021
Backups to Cloudflare R2 fail during multipart upload with aws-sdk-s3 1.182.0 (undefined method 'downcase' for nil) Bug	3	45	4 de Abril de 2026
Cannot upload or backup to Amazon S3 Self-hosting backups , s3	4	2151	9 de Janeiro de 2024

Falha no upload de backup para S3 na Scaleway (upload multipart)

Tópicos relacionados