Será que o problema pode estar fora do próprio Discourse?
Por exemplo, talvez o app.yml esteja montado como um bind mount em um diretório do host, ou haja um bind mount implícito do contêiner para o host, e esse diretório do host ainda esteja sendo sincronizado/backupado para o antigo bucket S3 por algo como aws s3 sync, rclone, uma tarefa cron ou um script de backup.
Se o app.yml não fizer mais referência às configurações antigas da AWS/S3, eu provavelmente verificaria o host em busca de tarefas agendadas ou scripts de sincronização em seguida.