Você não pode recuperar sua chave privada. Se houver outra conta que permita acesso ssh a essa VM, e essa conta tiver privilégios sudo, você poderá ssh com essa conta e sudo nos arquivos da sua conta. De lá você pode mudar a chave para um par que você já tem.
Como alternativa, se suas informações estiverem armazenadas em um volume do Cinder, você poderá desligar a máquina, desconectar o volume e adicioná-lo a uma nova máquina, fornecendo acesso aos seus arquivos.