Acho que o tamanho máximo de imagem de 102400kb (100M) está codificado no Discourse por design. O upload_size em app.yml é para configurar o nginx, você pode querer configurar a configuração tamanho máximo de anexo kb que permite um tamanho máximo de arquivo de 1024000kb (1GB).
Um arquivo de imagem de 500MB renderizado diretamente na página da web é horrível.