Desculpe pelo atraso. O problema aqui está realmente relacionado ao seu proxy. Não consigo dizer exatamente o que é, mas um dos seus nomes de domínio, protocolo (http ou https) e porta está atrapalhando.
O Passkeys verifica se o frontend e o backend são executados no mesmo domínio, protocolo e porta. Se houver uma incompatibilidade em um desses itens, você receberá um erro como este.
No Rails CLI, você pode tentar o seguinte:
DiscourseWebauthn.origin
e compará-lo com a URL que você usa para acessar o site no navegador? Os dois devem corresponder.