Não realmente. No final, todas as suas chaves privadas são armazenadas em disco, e sua senha já é que protege contra roubo.
GnuPG 2.x tipo de funciona do jeito que você quiser. Em 1.x, "exportando" apenas copiou o pedaço relevante do secring (ainda criptografado, sem qualquer alteração) para o arquivo de saída. Em 2.x, a exportação de chaves passa pelo gpg-agent, que deseja primeiro descriptografar a chave usando a senha atual e criptografá-la novamente com uma nova.
Mas, mesmo se a exportação fosse proibida, alguém poderia copiar facilmente o secring.pgp
ou private-keys.d/
diretamente do seu ~/.gnupg/
. Sem saber a frase secreta, no entanto, eles são inúteis.