GnuPG 1
gpg permanecerá para uso incorporado e de servidor, pois traz menos dependências e binários menores.
De man gpg :
This is the standalone version of gpg. For desktop use you should consider using gpg2.
GnuPG 2
gpg2 é uma versão reformulada de gpg - mas as alterações são principalmente no nível interno. A versão mais recente é dividida em vários módulos, por exemplo, há também módulos para o X.509 (usado pelo S / MIME).
De man gpg2 :
In contrast to the standalone version gpg, which is more suited for server and embedded platforms, this version is commonly installed under the name gpg2 and more targeted to the desktop as it requires several other modules to be installed.
GnuPG 2.1
Uma mudança importante veio com o GnuPG 2.1, que combina os chaveiros públicos e privados separados anteriormente ( pubring.gpg vs. secring.gpg ) no chaveiro público. Isso foi implementado de maneira a manter as coisas compatíveis, então você ainda pode usar o GnuPG 1 quando o GnuPG 2.1 integra o chaveiro privado, mas as mudanças nas chaves privadas não aparecem para a outra implementação. A partir do changelog :
[...] allows co-existence of older GnuPG versions with GnuPG 2.1. However, any change to the private keys using the new gpg will not show up when using pre-2.1 versions of GnuPG and vice versa.
Para responder diretamente à sua pergunta:
Should I install both, or just one is enough? Does it matter which one I install first matter at all?
Basta instalar os dois. Eles não interferem de qualquer maneira. Instale gpg (se não estiver instalado de qualquer forma) para outros aplicativos que acessam (como gerenciadores de pacotes, clientes de email, ...) e gpg2 para "uso direto" na linha de comando.
If I installed both, are both compatible with each other?
Ambos implementam o protocolo OpenPGP, sendo compatíveis entre si quanto aos dados compartilhados entre eles. Além disso, eles (na maior parte) usam os mesmos comandos e opções, então na maioria das vezes você pode alternar entre eles arbitrariamente.
O GnuPG 2.1 faz alterações no chaveiro privado invisíveis para implementações anteriores ao GnuPG 2.1 (veja acima na seção 2.1 do GnuPG).