Eu tive o mesmo problema e encontrei uma solução alternativa para isso. Não tenho certeza se você ainda precisa dessa resposta, mas talvez outra pessoa tenha o mesmo problema.
Depois de abrir o explorador de arquivos para procurar sua chave privada, pressione CTRL + L (para abrir a barra de localização) e insira o caminho absoluto para a sua chave manualmente.
Parece ser um tipo de bug apenas pela primeira vez que você deseja navegar, porque se você tentar depois de preencher o campo manualmente, poderá navegar com êxito pelo .pem e por todos os outros formatos.