Basta adicionar a si mesmo como destinatário (sendo Alice) e ambos poderão descriptografar a mensagem:
echo "message" | gpg --encrypt -a -r Bob -r Alice
Existem GnuPG-Plugins para todos os clientes de e-mail relevantes que facilitam a manipulação de e-mails criptografados e, ao mesmo tempo, menos propensos a erros.