Eu descobri que precisava atualizar minha versão do gnupg.
Eu segui as instruções aqui e pude fazê-lo.
Tentando compilar o gnupg a partir da fonte
Aqui estão os passos:
sudo apt-get update
sudo apt-get install libldap2-dev gtk+-2 libbz2-dev
após descompactar o último tarball gnupg-2.1.X e cd para a nova pasta, execute o comando:
sudo make -f build-aux/speedo.mk native INSTALL_PREFIX=/usr/local
sudo ldconfig
baixe o pinentry-0.9.5 mais recente, execute ./configure && make && sudo make install.
teste: gpg2 --version
Depois disso, você pode adicionar o PPA com
sudo add-apt-repository ppa:webupd8team/y-ppa-manager
Faça o download do tarball do gnupg em aqui