Obrigado pela rápida resposta, @michaeld. Vou tentar mais tarde hoje 
Para quem estiver interessado e for fazer isso em PHP, usei uma biblioteca do Composer chamada base62 by tuupola.
Este é o código que usei:
<?php
$base62 = new Tuupola\Base62(["characters" => Tuupola\Base62::INVERTED]);
/** Defina o nome original do arquivo, excluindo qualquer extensão */
$s = "r3AYqESanERjladb4vBB7VsMBm6";
/** Decodifique e converta para hexadecimal */
$decoded = $base62->decode($s);
/** Resultado esperado: bda2c513e1da04f7b4e99230851ea2aafeb8cc4e */
echo bin2hex($decoded);