Não tenho certeza se este é o caso, mas quando você criptografa um arquivo com gpg, ele cria duas chaves, uma privada e outra pública. Eu acho que seu problema pode ser que você não tem em seu disco rígido uma cópia da chave privada para descriptografar o outro disco rígido. Não tenho certeza sobre isso, você pode tentar ver o que acontece ou esperar que um membro mais experiente lhe dê a solução!