Извините за задержку. Проблема здесь действительно связана с вашим прокси-сервером. Я не могу точно сказать, в чём дело, но что-то мешает: либо доменное имя, либо протокол (http или https), либо порт.
Passkeys проверяют, что фронтенд и бэкенд работают на одном домене, протоколе и порту. Если хотя бы один из этих параметров не совпадает, вы получите ошибку вроде этой.
В консоли Rails попробуйте выполнить:
DiscourseWebauthn.origin
и сравните результат с URL, который вы используете для доступа к сайту в браузере. Они должны совпадать.