Depois de desistir algumas vezes, finalmente descobri como fazer o upload de um certificado SSL com o comando RACADM:
racadm -r <ip of idrac> -u <username> -p <password> sslkeyupload -t 1 -f filename.key
racadm -r <ip of idrac> -u <username> -p <password> sslcertupload -t 1 -f filename.cer
Após a execução do segundo comando, a reinicialização do servidor, a interface da web do iDRAC ficou inativa por um minuto, mas, quando voltou, estava usando meu certificado SSL personalizado.
Esta página deve dizer-lhe como obter o RACADM se você ainda não o tiver.
Se você executá-lo (como uma conta de administrador) no servidor que você está tentando modificar, você pode deixar os parâmetros -r e IP. Isso é importante se você estiver usando o iDRAC Express, que não permite acesso remoto ao RACADM.
NOTA: Se você alterou a porta HTTPS da sua interface iDRAC, precisará especificar:, Como o RACADM parece usar a porta HTTPS para acesso remoto.